Методы многоуровневого проектирования быстродействующих модульных нейронных сетей прямого распространения на основе иерархических категорных моделей
Диссертация
В первой главе показана роль нейротехнологии в развитии современных методов решения технических задач. Рассмотрено функционирование и системная организация биологических нейронных сетей. Рассмотрен ряд известных математических моделей одиночных нейронов, нашедших применение в технических приложениях. Рассмотрены методы оценки качества нейронных сетей. Выполнен обзор и анализ технических… Читать ещё >
Список литературы
- Бусленко Н.П. Лекции по теории сложных систем / Бусленко Н. П., Калашников В. В., Коваленко И. Н. — М.: Советское радио, 1973.- 440с.
- Калман Р. Очерки по математической теории систем / Калман Р., Фалб П., Арбиб М. М.: Мир.- 1971.
- Mesarovich M.D., Takahara Y. General System Theory: Mathematical Foundations.- ACADEMIC PRESS, New York, 1975. (Русский перевод: Месарович M., Такахара. Я. Общая теория систем: Математические основы.- М.: Мир, 1978.- 311с.)
- Вавилов А.А., Эволюционный синтез систем управления: Учеб. Пособие Вавилов А. А., Имаев Д.Х.- Л.: ЛЭТИ, 1983.- 80с.
- Технология системного моделирования / Е. Ф. Аврамчук, А. А. Вавилов, С. В. Емельянов и др.- М.: Машиностроение- Берлин: Техник, 1988.- 520с.
- Дорогов А.Ю., Алексеев А. А. Структурные модели быстрых нейронных сетей // Интеллектуальные системы (INTEL'S96): Тр. П-го Международного симпозиума, Санкт-Петербург, июнь 1996 г.- М.: Из-во ПАИМС, 1996.- Т.2.- С.138−143.
- Дорогов А.Ю., Алексеев А. А. Математические модели быстрых нейронных сетей // Системы управления и обработки информации. (Тр. СПбГЭТУ).- СПб., 1996.- Вып.490.- С.79−84.
- Dorogov A.Ju., Alekceev А.А. Topological Models of Fast Neural Networks / In proceedings International Conference on Informatic and Control (IC&C97) June 9−13, 1997.- St. Petersburg, Russia.- P. 648−649.
- Дорогов А.Ю. Структурно-ядерная организация нейронных сетей прямого распространения // Нейроинформатика и ее приложения: Тезисы докладов 5-го Всероссийского семинара, г. Красноярск.- 3−5 октября 1997.
- Дорогов А.Ю. Структурные модели и топологическое проектирование быстрых нейронных сетей // Информационные средства и технологии: Докл. ме-ждунар. конф., Москва, 21−23 октября.1997г.- М., 1997.- Т.1.- С.264−269.
- Дорогов А.Ю., Алексеев А. А. Нейронные сети с ядерной организацией // Оборонная техника.- 1998.- № 7−8.- С.43−46.
- Дорогов А.Ю., Алексеев А. А. Математические модели нейронных сетей с ансамблиевой организацией // Известия СПбГЭТУ (ЛЭТИ). Сер. Управление, информатика и вычислительная техника.- СПб., 1988.- Вып. 1/98.- С.33−35.
- Дорогов А.Ю., Алексеев А. А. Категории ядерных нейронных сетей // Нейроинформатика-99: Сб. науч. тр. Всерос. науч.-техн. конф.- Москва 20−22 января 1999 г. -М., 1999.- Часть 1, — С.55−64.
- Дорогов А.Ю., Алексеев А. А. Обучение быстрых нейронных сетей // Известия ГЭТУ, Сб. науч. тр. Информационные технологии в технических и организационных системах, — СПб. 1997.- Вып.514.- С.68−75.
- Дорогов А.Ю. Алгоритм Error Backpropagation для модульных нейронных сетей// Нейроинформатика 2000: 2-я Всерос. науч.-техн. конф, — 19−21 января 2000 г. Москва. М.: МИФИ, 2000.- Ч.1.- С. 52−60.
- Дорогов А.Ю., Алексеев А. А. Обучение нейронных сетей с ядерной организацией // Нейрокомпьютеры и их применение: VI Всероссийская конференции 16−18 февраля 2000 г. г. Москва, Сб. докл.- М.: Радиотехника.- С.493−495.
- Дорогов А.Ю. К расчету пластичности нейронных сетей // Междунар. конф. по мягким вычислениям и измерениям SCM-98 Санкт-Петербург, 22−26 июня 1998 г. Сб. докл.- С.341−344.
- Дорогов А.Ю. Пластичность многослойных нейронных сетей // Известия вузов. Приборостроение.- 1998.- Т.41, № 4.- С.36−41.
- Дорогов А.Ю. Оптимизация структуры двухслойной ядерной нейронной сети по критерию параметрической пластичности // Нейрокомпьютеры и их применение: 5 Всероссийская конференция НКП-99, 17−19 февраля 1999 г. Сб. докл.- С.368−371.
- Дорогов А.Ю., Алексеев А. А. Пластичность двухслойных быстрых нейронных сетей // Известия АН. Теория и системы управления. 1999.- № 5.- С. 121−126.
- Дорогов А.Ю. Оптимальные криэйторы слабосвязанных нейронных сетей // Нейрокомпьютеры и их применение: VI Всероссийская конференция 16−18 февраля 2000 г. г. Москва. Сб. докл.- М.: Радиотехника.- С.512−516.
- Dorogov AJu. Plasticity of Multilayer Neural Network // First international conference on mechatronics and robotics: Proceeedings (M&R'2000) St-Petersburg: NPO Omega BF Omega, 2000. May 29-June 2.- 2000.-V1.- P.33−38.
- Dorogov A.Yu. Estimation of Multilayer Neural Network Plasticity // Eleventh IF AC International Workshop Control application of optimization CAO'2000 Perga-mon An Imprint of Elsevier Science Oxford, UK.- 2000.- VI.- P. 81−85.
- Дорогое А.Ю. Пластичность многослойных модульных нейронных сетей // Новости искусственного интеллекта. № 3(57), 2003.- С.36−45.
- Дорогое А.Ю. К расчету топологической пластичности ядерных нейронных сетей // Междунар. конф. по мягким вычислениям и измерениям SCM'2000, Сашсг-Петербург, 27−30 июня 2000 г., Сб. докл.- СП6.-Т.2.- С.27−30.
- Дорогое А.Ю. Анализ параметрической пластичности многослойных нейронных сетей // Радюелектрошка 1нформатика Управлшня (Радиоэлектроника Информатика Управление).- 2000.- № 1.- С.66−71.
- Dorogov A.Yu. Parametrical and Topological Plasticity of Multilayer Neural Networks // Processing of 4-th International Conference «New Information Technologies» (NITe'2000) Minsk, Belarus 5−7 December, 2000.- Minsk, 2000.- Vol. 1.- P. 15−19.
- Дорогое А.Ю., Алексеев А. А., Буторин Д. А. Нейронные сети со структурой быстрого алгоритма // Нейроинформатика и ее приложения: 6 Всерос. семинар, 20−25 октября 1998 г. г. Красноярск, тезисы докл.- Красноярск, КГТУ- 1998.- С. 53.
- Дорогов А.Ю. Генезис слабосвязанных нейронных сетей // Нейроин-форматика-99: Всерос. научю.-техн. конф. г. Москва, 20−22 января 1999 г. Сб. науч. тр. -М., 1999.- Часть 1.- С.64−70.
- Дорогов А.Ю. Модальные категории модульных нейронных сетей // Проблемы нейрокибернетики: XII Междунар. конф. по нейрокибернетике Сентябрь 1999 г., Ростов-на-Дону. Сб. статей.- 1999 г.- Ростов-на-Дону.- С.137−141.
- Дорогов А.Ю., Алексеев А. А. Быстрые нейронные сети // Пятьдесят лет развития кибернетики: Междунар. научно-технич. конф., Санкт-Петербург 5−7-оюгября 1999 г. Тр.- СПб.- С.120−121.
- Дорогов А.Ю., Алексеев А. А., В.Е.Пименов. Структурный синтез нейронных сетей для СБИС реализации // Нейроинформатика и ее приложения: 7 Всероссийский семинар 1−3 октября 1999 г. г. Красноярск. Тезисы докл.- Красноярск, КГТУ, — 1999.- С.12−13.
- Дорогов А.Ю. Структурный синтез быстрых нейронных сетей // Нейрокомпютер.- 1999.-№ 1.- С.11−24.
- Dorogov A.Ju., Alekseev А.А. Fast Neural Networks // Proceedings of Seventh International Conference on Advanced Computer Systems (ACS-2000) Poland, Szczecin, October 2000.- P.267−270.
- Дорогов А.Ю. Структурный синтез двухслойных быстрых нейронных сетей // Кибернетика и системный анализ.- 2000.- № 4.- С.47−57.
- Дорогов А.Ю. Реализация дискретных вейвлет-преобразований в базисе быстрых нейронных сетей // Междунар. конф. по мягким вычислениям SCM'2001 Санкт-Петербург, 25−27 июня 2001. Сборник докладов.- T.l.-СПб.- С.268−274.
- Дорогов А.Ю. Реализация спектральных преобразований в классе быстрых нейронных сетей // Программирование, № 4, 2003.- С. 13−26.
- Dorogov A. Yu. Fast Neural Networks and Fast Spectral Transformations // Inprocessing of Third International Conference on Neural Networks and Artificial Intellli-gence (ICNNAI-2003, Minsk, 12−14 November, 2003).- Minsk.-2003.-P.136−142.
- Дорогов А.Ю. Быстрые нейронные сети. СПб.: Изд-во С.Петерб. ун-та, 2002.- 80с.
- Дорогов А. Ю. Фрактальная фильтрация сигналов // Нейроинформатика и ее приложения Материалы 11 Всероссийского семинара Красноярск 3−5 октября 2003 г.- Красноярск: ИВМ СО РАН, 2003.- С.59−61.
- Дорогов А.Ю. Приспособленное ортогональное преобразование // Нейроинформатика и ее приложения Материалы 11 Всероссийского семинара Красноярск 3−5 октября 2003 г.- Красноярск: ИВМ СО РАН, 2003.- С.55−56.
- Дорогов А.Ю. Мультимасштабная аппроксимация вещественных функций в минимаксном пространстве // Нейроинформатика и ее приложения Материалы И Всероссийского семинара Красноярск 3−5 октября 2003 г.- Красноярск: ИВМ СО РАН, 2003.- С.57−58.
- Дорогов А. Ю, Курбанов Р. Г. Реконфигурируемые нейронные сети // Сборник докладов 5-ой международной конференции по морским интеллектуальным технологиям «Моринтех'2003», г. Санкт-Петербург, сентябрь 2003.- С. З89−393.
- Дорогов А. Ю, Курбанов Р. Г. Реконфигурируемые регулярные нейронные сети // Сборник докладов. Международная конференция по мягким вычислениям и измерениям SCM'2003, 27−30 июня 2003 г. Санкт-Петербург.- С.325−329.
- Дорогов А. Ю, Курбанов Р. Г Лингвистические модели регулярных многослойных нейронных сетей // Труды международной научно-технической конференции IEEE AIS'03 CAD-2003, 3−10 сентября 2003 г, Дивноморское.- М.- Физматлит, 2003, — С.528−536.
- Дорогов А.Ю., Курбанов Р.Г Методы реконфигурации регулярных многослойных нейронных сетей // Сб. тр. Науч.-техн. Конф. «Нейроинформатика-2004″ 28−30 января 2004 г. Москва. Изд. М.: МИФИ, 2004, Ч.2.- С.30−38.
- Дорогов А.Ю. Нечеткий нейрон с контрастирующей функцией активации // Сб. тр. науч.-техн. конф. Нейроинформатика-2003 29−31 января 2003 г., Москва. Изд. М.: МИФИ, 2003, Ч.1.- С.55−60.
- Винер Н. Кибернетика или управление и связь в животном и машине.-М.: Наука, 1983.- 344с.
- Hebb D.O. The Organization of Behavior / N. Y: Acad. Press, 1949.- P.141.
- Розенблатг Ф. Принципы нейродинамики. Перцептрон и теория механизмов мозга.- М.: Мир, 1965.- 480с.
- Минский М., Пайперт С. Персептроны.- М.: Мир, 1971.
- Hopfield J.J. Neural Networks and Physical systems with emergent collective computational abilities // Proc. Nat. Sci. USA. 1982, — V.79.- P. 2554−2558.
- Горбань А. Нейроинформатика и ее приложения // Открытые системы.-1998.- № 4−5 (30−31).- С.36−41.
- Галушкин А. Современные направления развития нейрокомпьютерных технологий в России // Открытые системы.-1997.- № 4.- С.25−28.
- Artificial Neural Networks: A Tutorial Computer.- March 1996.-Vol. 29.
- No.3.- pp.31−41. (Русский превод: Открытые системы.-1997.- № 4.- С. 16−24).
- Роберт Хехт-Нильсен. Нейрокомпьютинг: история состояние перспективы // Открытые системы.-1998.- № 4−5 (30−31).- С.23−28.
- Горбань А.Н., Россиев Д. А. Нейронные сети на персональном компьютере.- Новосибирск: Наука, 1996.- 276с.
- Ежов А.А., Шумский С. А. Нейрокомпьютинг и его приложения в экономике и бизнесе.- М.: МИФИ, 1998.- 224с. (Учебники экономико-аналитического института МИФИ).
- Оптнер С. Системный анализ для решения деловых и промышленных проблем.- М.: Сов. Радио, 1969.- 216с.
- Bertlanfy L. Von. General System Theory a Critical Review // General System.- 1962.- Vol. VII.- P. 1−20.
- Богданов А.А. Всеобщая организационная наука: Тектология. В 2-х кн-М., 1905−1924. (Переиздана в 1989 г.)
- Горетко А.Б., Угольницкий Г. А. Введение в прикладной системный анализ.» Ростов-на- Дону: изд-во Книга.- 1996.-132с.
- Волкова В.Н., Денисов А. А. Основы теории систем и системного анализа: Учебник для студентов вузов.- СПб.: Изд-во. СПбГТУ, 1999.- 512с.
- Куффлер С., Дж.Николс. От нейрона к мозгу.- Пер. с англ.- М.: Мир, 1979.- 440с.
- Архитектоника синапсов и организация связей коры головного мозга /
- A.С.Ионтов, Ф. П. Макаров, Э. Э. Гранстрем. В. Л. Рыбаков.- Л.: Наука, 1990.- 120с.
- Структура и модели нейронных комплексов головного мозга /
- B.П.Бамбидра, Т. А. Брегина, И. П. Ионов, Н. П. Нуртдинов.- Л.: Наука, 1988 г.- 98с.
- Шерингтон Ч. Итегративная деятельность нервной системы.- Л.: Медицина, 1979.- 224с.
- Lorente de No R. Studies on structure of the celebral cortex // J.Psychol. Neurol.- 1933.-V.45.- P.381−392.
- Коган А.Б. Функциональная организация нейронных механизмов мозга.-Л.: Медицина, 1979.- 228с.
- Гибадулин Т.В., Голубев В. Н. Свойства нервных центров,— Д.: ВМА, 1987.- 56с.
- Mauntcastle V.B. Mogality and topographies of single neurouns of cat’s somatic sensory cortex // J.Neurophysiol.- 1957.- V.20.- P.408−434.
- Mauntcastle V.B. Powell T.P. Central nervous mechanisms subserving position sense and kinesthesis // Bull. John Hopkins Hosp.- 1959, — V.105.- P.173−182.
- Rockel A.J., Hiorns R.W., Powell T.P. Numbers of neurons through fall depth of neocortex // Proc. Anat. Soc. Cr. Br. Iro.- 1974.- 118, 371.
- Edelman G.M. Molecular recognition in the immune and nervous systems. // Neurosciences: Path of Discovery / F.G.Worden, F.G.Swarey and G. Edelman eds.- New York: The Rockfeller University Press.- 1975.- P. 65−74.
- Чораян О.Г. Нейронный ансамбль (идея, эксперимент, теория) // Успехи физиологических наук. 1989. — Т.20.- № 2. — С.75−95.
- Anninos P.A. Beck В. Czermely T.J. Harth Е.М. Pertlibe G. Dynamics of neural structures // J.Theoret. Biol. 1970.- V.26.- P.121−148.
- Кэндел Э. Малые системы нейронов. / В кн. Мозг. Д. Хьюбел, Ч.Стивенсоню.- М.: Мир, 1984.- 280с.
- Абарванель Г. Д., Рабинович М. М., Селвертон А., Баженов А. Синхронизация в нейронных ансамблях // Успехи физических наук.- 1996.-Т.166.- № 4.- С.363−390.
- Нейроны как проводники электричества // Куффлер С., Николе Дж. От нейрона к мозгу.- М.: Мир, 1979.- Гл. 7.- С.132−141.
- Rummelhart D.E., Hinton G.E., Williams R.J. Learning representations by back-propagating errors 11 Nature.- 1986.- V. 323.- P. 533−536.
- Masters T. Advanced Algorithms For Neural Networks. A С++ Source-book.-New York: Wiley, 1995.
- Калман P. Основные концепции нейронных сетей / Пер. с англ.-М. Издательский дом Вильяме, 2001.- 208с.
- Горелик A. JL, Скрипкин В. А. Методы распознавания.- М.: Высшая школа, 1989.-232с.
- Айзерман М.А., Браверман Э. М., Розоноэр Л. И. Метод потенциальных функций в теории обучения машин.- М.: Наука, 1970.- 384с.
- Осовский С. Нейронные сети для обработки информации / Пер. с польского И. Д. Рудинского.- М.: Финансы и статистика, 2002.- 344с.
- Cover Т. Geometrical and statistical properties of system of linear inequalities with applications in patern recognition // IEEE Trans. Electronic Computers.- 1965.-Vol 14.- pp. 326−334.
- Белман P. Введение в теорию матриц.- М.: Наука, 1976.-352с.
- Ахмед Н., Рао К.Р. Ортогональные преобразования при обработке цифровых сигналов / Пер. с англ. под ред. И. Б. Фоменко.- М., 1980.-248с.
- Орловский С.А. Проблемы принятия решений при нечеткой исходной информации.- М.: Наука, 1981.- 208с.
- Заде JI.A. Понятие лингвистической переменной и его применение к принятию приближенных решений. М.: Мир, 1976.
- Аверкин А.Н., Батыршин И. З. и др. Нечеткие множества в моделях управления и искусственного интеллекта / Под ред. Д. А. Поспелова.- М.:Наука, 1986.-312с.
- Горбань А.Н. Обучение нейронных сетей.- М.: изд. СССР-США СП ParaGraph, 1990.- 160с.
- Гилев С.Е., Коченов Д. А., Миркес Е. М., Россиев Д. А. Контрастирование, оценка значимости параметров, оптимизация их значений и их интерпретация в нейронных сетях // 3 Всеросс. сем. Нейроинформатика и ее приложения: Докл.- Красноярск, 1995.- С.66−78.
- Le Cun Y., Denker J.S., Solla S.A. Optimal Brain Damage // Advances in Neural Information Processing Systems II (Denver 1989). San Mateo, Morgan Kaufman, 1990.-P. 598−605.
- Prechelt L. Comparing Adaptive and Non-Adaptive Connection Pruning With Pure Early Stopping // Progress in Neural Information Processing (Hong Kong, September 24−27, 1996), Springer.- Vol. 1.- P. 46−52.
- Fukushima K. Cognitron: A self-organizing multilayered neural network. // Biological Cybernetics.- 1975.-V20.- P. 121−136.
- Fukushima K. A hierarchical neural network model for associative memory// Biological Cybernetics.- 1984.-V50.-P.105−113.
- Fukushima K. Miyake S. Neocognitron: A new algorithm for pattern recognition tolerant of dedeformations and shifts in position. // Pattern recognition.- 1982.-VI5.-P.455−469.
- Genetic Algorithms in Engineering and Computer Science / Edited by G. Winter and al.- Great Britan, JOHN WILEY&SONS, 1996, — 464p.
- Miller G., Todd P, Hedge S. Disigning Neural Networks using Genetic Algorithm, in 3rd Intern. Conf. on Genetic Algorithms, 1989.
- Whitley D., Starkweather T. and Borgart C. Genetic Algorithms and Neural Networks: Optimising Connections and Connectivity // Parallel Computing.- 1990.-V14.-P.347−461.
- Koza J.R., Rice J.P. Genetic generation of both the weigts and architecture for a neural network. In, Intern. Joint Conf. on Neural Networks, Seattle 92, 1991.
- Mjolness E., Sharp D.N., Alpert B.K. Scaling, machine learning, and genetic neural nets //Advances in Applied Mathematics, 1989,10.- P. 137−163.
- Kitano H. Designing neural network using genetic algorithm with graph generation system // Complex System, 1990,4.- P.461−476.
- Gruan F. Genetic synthesis of Boolean neural networks with a cell rewriting development process // In, Combination of Genetic Algorithms and Neural Networks, D. Whitley, Schaffer J.D., eds. IEEE Computer Society Press, 1992.
- Kitano H. A simple model of neurogenesis and cell differentiation based on evolutionary large-scale chaos // Artificial Life, 2, 1995.- P.79−99.
- Gruau F. Automatic Definition of Modular Neural Networks // Adaptive Behavior, 1995, 3(2).- P.151−183.
- Дорогов А.Ю. Синтез алгоритмов быстрых линейных преобразований в задачах функциональной диагностики динамических объектов / Автореферат дис. к.т.н.-Л., 1988, — 15с.
- Дорогов А.Ю. Структурный синтез быстрых алгоритмов линейных преобразований // Изв. Ленингр. электротехн. инст.- 1989.- Вып.411.- С.76−80.
- Дорогов А.Ю. Структурный синтез модульных слабосвязанных нейронных сетей. 1. Методология структурного синтеза модульных нейронных сетей // Кибернетика и системный анализ.- 2001.-№ 2.- С.34−42.
- Дорогов А.Ю. Структурный синтез модульных слабосвязанных нейронных сетей. Часть 2 Ядерные нейронные сети // Кибернетика и системный анализ.-2001.-№ 4.- С. 13−20.
- Гисин В.Б., Цаленко М. Ш. Алгебраическая теория систем и ее приложения: Системные исследования. Методологические проблемы. Ежегодник 1984.- М.: Наука 1984.- С.130−151.
- Гонсалес Р., Дж. Ту. Принципы распознавания образов. М.: Мир, 1978.-411с.
- Вапник В.П., Червоненкис А. Я. Теория распознавания образов (статистические проблемы обучения).- М.: Наука, 1974.- 415с.
- Vapnik V.M. The Nature of Statistical Learning Theory.- Springer-Verlag New York. Inc.- 1995.- 188p.
- Baum E. B, Haussler D. What size gives valid generalization? Neural Computation. — 1989, No 1(1).- 151−160.putation. 1989, No 1(1).- 151−160.
- Hammerstrom D. The Connectivity Analysis of Simple Association or-How Many Connections Do You Need.- In D.Z. Anderson (ed.): NIPS, AIP, NY, 338−347, 1988.
- Beiu V. How to Build VLSI-Efficient Neural Chips.- in Proc. of the intl. ICSC Symp. on Engineering of intelligent Systems EIS'98, Tenerife, Spain, Febrary 9−13, 1998.
- Колмогоров A.H. О представлении непрерывных функций нескольких переменных в виде суперпозиции непрерывных функций одного переменного и сложения, — Докл. АН СССР, 1957, Т. 114, № 5, С. 953−956.
- Barron A.R. Universal approximation bounds for superpositions of a sigmoi-dal function // IEEE Transaction on Information Theory.- 1993, No 3, Vol 39.- P. 930−945.
- Breiman L. Hiding heperplanes for regression, classification and function approximation // IEEE Transaction on Information Theory.- 1993, No 3, Vol 39.- P. 999−1013.
- Jones L.K. A simple lemma on greedy approximation in Hilbert space and convergence rates for Projection Pursuit Regression // The Annals of Statisics, 20, (1), 1992.- P.608−613.
- Mhaskar H.N. Approximation properties of multi-layer feedforward artificial neural network // Advances in Computational Mathematics.- No 1, 1993.- P.61−80.
- Галушкин А.И. Теория нейронных сетей. Кн. 1. Учеб. пособие для вузов.- М.: ИПРЖР, 2000.- 416с. (Нейрокомпьютеры и их применение).
- Нгусеу Т. Modular Learning in Neural Networks (A Modulariced Approach to Neural Network Classification).- USA, JOHN WILEY&SONS. INC 1992.- 235 p.
- Jacobs R.A., Jordan M.I. A cjmpettitive modular connectionist architecture // In Advances in Neural Information Processing Systems 3. San Mateo, CA: Morgan Kauf-mann, 1991.- P.767−773.
- Good I.J. The Interaction Algorithm and Practical Fourier Analysis // Journal of Royal Statistical Soseity. Ser.B.- 1958.- Vol.20.- No.2.- P.361−372.
- Andrews H.C. Walch Function Selection and Pattern Recognition // SAWF, IEEE Tr. on EMC-13.-1971.-No/3.- P. 115−119.
- Andrews H.C., Caspari K.L. A General Techniques for Spectral Analysis // IEEE. Tr. Computer.- I970.-Vol C-19.-Jan, No 1.-P.16−25.
- Andrews H.C., Kanl J. Kronecker Products Computer Implementation and Generalized Spectra // J. ACM.- 1970.- Vol.17.-apr.- P.260−268.
- Andrews H.C., Caspari K.L. Degrees of Freedom and Modular Structure in Matrix Multiplication // IEEE. Tp. Compt.-1971.- Vol. C-20.-feb.- P. 113−141.
- Эндрюс Г. Применение вычислительных машин для обработки изображений: / Перевод с англ. Под ред. Б. Ф. Курьянова.- М., 1977.- 160с.
- Трахтман A.M., Трахтман В. А. Основы теории дискретных сигналов на конечных интервалах.- М.: Сов. Радио, 1975.- 208с.
- Солодовников А.И., Канатов И. И., Спиваковский A.M. Синтез ортогональных базисов на основе обобщенного спектрального ядра // Вопросы теории систем автоматического управления: Межвуз. Сб. Ленингр. Гос. Ун-т.- Л., 1976.-Вып.2.-С.99−112.
- Солодовников А.И. Синтез полных систем ортонормированных функций, имеющих алгоритмы быстрого преобразования // Вопросы теории систем автоматического управления: Межвуз. Сб. Ленингр. Гос. Ун-т.-Л., 1978.- Вып. 4.- С.94−105.
- Солодовников А.И., Канатов И. И., Спиваковский A.M. Методы обобщенных спектральных преобразований в задачах оперативного сжатия информации // Вопросы кибернетики: Автоматизация экспериментальных исследований.- М.: ИСК АН СССР, 1979.- Вып.62.- С.19−35.
- Солодовников А.И. Формирование оптимальных базисов Карунена-Лоэва с алгоритмами быстрого преобразования // Вопросы теории систем автоматического управления: Межвуз. Сб. /Ленингр. Гос. Ун-т.- Л.: 1980.- Вып.5.- С.10−27.
- Солодовников А.И., Спиваковский A.M. Основы теории и методы спектральной обработки информации.- Л., 1986.- 272с.
- Дорогов А.Ю., Солодовников А. И. Быстрые ортогональные преобразования в базисах с параметрической перестройкой // Планирование и автоматизация эксперимента в научных исследованиях: Всесоюз. Конф. Тезисы докладов.- Л.: ЛГУ, 1986.
- Дорогов А.Ю., Солодовников А.И Перестраиваемые ортогональные базисы для адаптивных спектральных преобразований // Методы и средства обработки пространственно-временных сигналов: Межвуз. Сб.- Свердловск: Уральск. Политехи. Ин-т, 1988.- С. 18−26.
- Лабунец В.Г. Единый подход к алгоритмам быстрых преобразований // Применение ортогональных методов при обработке сигналов и анализа систем: Межвуз. Сб.- Свердловск: Уральск. Политехи. Ин-т.- 1980.- С.4−14.
- Колмогоров Г. С. Алгоритмы быстрых преобразований в базисах классических ортогональных полиномов // Применение ортогональных методов при обработке сигналов и анализе систем: Межвуз. Сб.- Свердловск: Уральск. Политехи. Ин-т, 1981.- С.39−44.
- Колмогоров Г. С., Лабунец В. Г. Стратегия настройки многопараметрических преобразований // Применение ортогональных методов при обработке сигналов и анализе систем: Межвуз. Сб.- Свердловск: Уральск. Политех. Ин-т, 1983.- С.4−16.
- Рабинер Л., Гоулд. Теория и примененение цифровой обработки сигналов: Пер. с англ.- М.: Мир, 1978.- 848с.
- Блейхут Р. Быстрые алгоритмы цифровой обработки сигналов: Пер. с англ.- М.: Мир, 1989.- 448с.
- Цаленко М.Ш., Шульгейфер Е. Г. Основы теории категорий (серия Современная алгебра).-М.: Наука, 1974 256с.
- Дорогов А.Ю. Структурные модели и топологическое проектирование быстрых нейронных сетей // Информационные средства и технологии: междунар. конф. Москва, 21−23 окг. 1997, Докл.- Т.1.- С.264−269.
- Дорогов А.Ю. К расчету пластичности нейронных сетей // Междунар. конф. по мягким вычислениям и измерениям SCM-98, Санкт-Петербург, 22−26 июня1998г. Сб. докл.- С.341−344.
- Барабанов Н.Е., Лисс А. А., Мельканович B.C., Степанов М. В. Модель искусственной нейронной сети обработки пространственно-временныж сигналов // Сб. Известия ТЭТУ.- С-Пб., 1994.- Вып 476,
- Галушкин А.И., Назаров Л. Е., Аляутдинов М. А. Методы распараллеливания и программно-аппаратной реализации нейросетевых алгоритмов обработки изображений // Нейрокомпьютеры: разработка, применение.- № 2,2003.- С.3−21.
- Нейронные сети STATISTIKA Neural Networks.- М.: Горячая линия Телеком, 2000.
- Круглое В.В., Борисов В. В. Искусственные нейронные сети. Теория и практика. М.: Горячая линия — Телеком, 2002.
- Glesner М., Pochmuller W. Neourocomputers. An Overview of Neural Networks in VLSI. Chapman&Hall, 1994.
- Галушкин А.И. Нейрокомпьютеры. Кн. З: Учебное пособие для вузов / Общая ред. А. И. Галушкина.- М.: ИПРЖР, 2000.- 528с.
- Галушкин А.И. Супер- и нейрокомпьютеры // Нейрокомпьютеры: разработка, применение.- № 6, 2001.- С.16−25.
- Каляев А.В., Галуев Г. А. Концепция и экспериментальная реализация параллельных цифровых нейрокомпьютеров с программируемой архитектурой // Нейрокомпьютеры: разработка, применение.- № 6, 2001.- С.26−32.
- Schmid Philipp. The mapping problem. Neural network approach // in Neural Network Conf. Paris, July 9−13, 1990, vol. 1.- pp.274−277.
- Fox. G., Koller. J. Code generation by a generalized neural network: general principles and elementary examples // J. Parallel and Distrib. Comput.- 1989, vol 6, no 2.-pp. 288−410.
- M. de Bolliver, Gallinari P., Thiria S. Neural nets and task decomposition. Artificial Neural Networks // Elsevier Science Publ. 1991. — pp.1291−1294.
- Литовченко Ц.Г., Мистюков В. Г., Сафонов И. А. Построение больших нейронных сетей на одном ПЛИС.- НКП-2002, Москва, 2002.
- Галушкин А.И., Остапенко Г. П. Пути и средства реализации нейросетевых алгоритмов // НКП-2002, Москва, 2002.
- Качаиова Т.П., Фомин Б. Ф. Реконструктивный анализ поведения сложных систем по эмпирическим данным.- С-Пб., 1997.-68 с. (Препринт № 1).
- Сверхбольшие интегральные схемы и современная обработка сигналов: Пер. с англ. / Под ред. С. Гука, Х. Уайтхауза, Т.Кайлата. М.: Радио и связь, 1989.-472с.
- Uhr L. Algorithm-Structured Computer Arrays and Networks: Parallel Archi-tecturts for Perception and Modelling / Academic Press, New York, 1984.
- Thurber K.J. Large Scale Computer Architecture / Hayden, Rochelle Park, N.J., 1976.
- Simon Hayken. Neural Networks a Comprehensive Foundtion. Macmillan Published Company, USA, 1994, 696p.
- Кострикин А.И., Манин Ю. И. Линейная алгебра и геометрия: Учеб. по-соб. для вузов.- 2-е изд., перераб.- М.: Наука, 1986.- 304с.
- Вавилов А.А. Структурный и параметрический синтез сложных систем. Учебн. пособие.- Л., 1979.- 94с.
- Анисимов В.И. Топологический расчет электронных схем.- Л.: Энергия, 1977, — 240с.
- Тарасик В.П. Математическое моделирование технических систем.-Минск: Дизайн Про, 1977.- 640с.
- Горбатов В.А. Основы дискретной математики: Учебн. пособие для студентов вузов. -М.: Высш. шк., 1986.- 311с.
- Volk R. Self-modifying nets, a natural extension of Petri nets.// Lectures Notes in Сотр. Sci. Berlin: Springer-Verlag, 1978, 62, P.464−476.
- Котов B.E. Сети Петри.- M.: Наука, 1984.-160с.
- Управление ГПС: Модели и алгоритмы / Под общ. ред. С. В. Емельянова.-М.: Машиностроение, Берлин: Техник, 1987.- 368с.
- Дубровин Б.А., Новиков С. П., Фоменко А. Т. Современная геометрия: Методы и приложения. Т.2 Геометрия и топология многообразий. 5-е изд., испр. М.: Эдиториал УРСС, 2001.- 296с.
- Хирш М. Дифференциальная топология.- М.: Мир, 1979.- 280с.
- Елкин В.И. Редукция нелинейных управляемых систем: Дифференциально-геометрический подход.- М.: Наука. Физматлит, 1977.- 320с.
- Математические методы в теории систем: Новое в зарубежной науке / Сб. стат. под ред. А. Н. Колмогорова, С. П. Новикова.-М.: Мир, 1979.- Вып. 14.- 328с.
- Гисин В.Б., Цаленко М. Ш. Алгебраическая теория систем и ее приложения: Системные исследования. Методологические проблемы. Ежегодник 1984.- М.: Наука 1984.- С.130−151.
- Фрид.Э. Элементарное введение в абстрактную алгебру / Перевод с венгерского Ю. А. Данилова.- М.: Мир, 1979.- 260с.
- Колмогоров А.И. Основные понятия теории вероятностей.- М.: — Наука, 1974.- 120с. (Теория вероятностей и математическая статистика).
- Скорняков Л.А. Элементы теории структур.- М.: Наука, 1982.-160с.
- Алексеев А.А., Имаев Д. Х., Кузьмин Н. Н., Яковлев В. Б. Теория управления: Учебник.- СПб.: Изд-во СПбГЭТУ «ЛЭТИ», 1999.- 435с.
- Терехов В.А., Ефимов Д. В., Тюкин И. Ю., Антонов В. Н. Нейросетевые системы управления. СПб.: Изд-во СПбГЭТУ «ЛЭТИ», 1999.- 265с.
- Кострикин А.И. Введение в алгебру. Основы алгебры.- М.: Физматлит, 1994, -320с.
- Борисович Ю.Г., Близняков Н. М., Израилевич Я. А., Фоменко Т. Н. Введение в топологию. М.: Наука, Физматлит, 1995.-416с.
- Ефимов Н. В, Розендорн Э. Р. Линейная алгебра и многомерная геометрия.- М.: Наука, 1970. 528с.
- Фоменко А.Т. Наглядная геометрия и топология. Математические образы в реальном мире.- М.: Изд-во Моск. ун-та ЧеРо, 1998.- 416с.
- Крипке С.А. Семантический анализ модальной логики. Нормальные модальные высказывания // Фейс Р. Модальная логика.- М., 1974.
- Яблонский С.В., Гаврилов Г. П., Кудрявцев В. Б. Функции алгебры логики и классы Поста.- М., 1966.
- Fundamentals of neural Networks, Architectures algorithms and application.1.urence Fauselt, USA, Florida, 1994. -461p.
- Белман P. Введение в теорию матриц.- М.: Наука, 1976.- 351с.
- Ежов И.И., Скороход А. В., Ядренко М. И. Элементы комбинаторики.-М.: Наука, 1977.- 80с.
- Гоппа В.Д. Введение в алгебраическую теорию информации М.: Наука. Физматлит, 1995. -112с.
- Гросс М., Лантен А. Теория формальных грамматик / Пер. с франц.- М.1971.
- Cooley J.W., and J.W. Tukey, An Algorithm for the Machine Computation of Complex Fourier Series // Math.Comp. 1965. — N. 19. — P.297−301.
- Писанецки С. Технология разреженных матриц / Пер. с англ. М.: Мир, 1988.-411с.
- Растригин Л.А. Системы экстремального управления,— М., Наука, 1974.630с.
- Уоссерман Ф. Нейрокомпьютерная техника. Теория и практика / Пер. с англ. М.: Мир, 1992, — 236с.
- Малинецкий Г. Г., А.Б.Потапов. Современные проблемы нелинейной динамики. М.: Эдиториал УРСС, 2000.- 336с.
- Кроновер P.M. Фракталы и хаос в динамических системах.- М.: По-стмаркет, 2000.- 350с.
- Макаренко Н.Г. Фракталы, аттракторы, нейронные сети и все такое // Нейроинформатика 2002: 4-й Всеросс. науч. техн. конф. 23−25 января 2002 г. Москва. / Лекции по нейроинформатике.- Часть 2.- с.136−169.
- Stark J. Iterated function systems as neural networks // Neural Networks.-1991.-V.4.-pp. 679−690.
- Астафьева H.M. Вейвлет-анализ: основы теории и примеры применения // Успехи физических наук.- Т. 166.-1996.-№ 11.- С.1145−1170.
- Каппелини В и др. Цифровые фильтры и их применение: Пер. с англ.-М.: Энергоатомиздат, 1983.- 360с.
- Feynman R. Simulating physics with computers. International Journal of
- Theoretical Physics 21, 6&7,467−488, 1982.
- Feynman R. Quantum mechanical computers. Optics News 11, 1985. Also in Foun dations of Physics, 16(6): 507--531, 1986.
- Риффель Э., Полак В. Основы квантовых вычислений. // Квантовый компьютер и квантовые вычисления.- Т.1., № 1, 2000.- с.4−57.
- Ekert A., Hayden P., Inamori Н. Basic concepts in quantum computation // Centre for Quantum Computation University of Oxford 0X1 3PU, United Kingdom.
- Ватанабэ С. и др. Оценка и отбор параметров в задачах распознавания // Автоматический анализ сложных изображений.-М.: Мир, 1969.- С.276−295.
- Буторин Д.А., Дорогов А.Ю. NEURO OFFICE Технология проектирования нейронных сетей с ядерной организацией // Известия СПбГЭТУ (ЛЭТИ) выпЛ/98 серия «Управление, информатика и вычислительная техника», Санкт-Петербург 1988.- С.5−7.
- Дорогов А. Ю, Алексеев А. А., Пименов В. Е Пакет программного моделирования быстрых нейронных сетей // Управляющие вычислительные системы. Новые технологии. Материалы межвузовской научно-технической конференции. Вологда. ВоГТУ, 2000.-С.129.