Вклад к. Шеннона в науку

В научных работах Клода Шеннона — выдающегося математика и инженера ХХ в. сочетаются глубокие математические идеи с конкретным анализом сложнейших технических проблем.

Он является творцом теории информации, на результатах которой в значительной степени основан высокий уровень развития систем связи, достигнутый в последние десятилетия. Он внес существенный вклад в теории автоматов, вероятностных схем и управляющих систем — научные направления, объединенные общим понятием «кибернетика».

С 1938 по 1960 г. К. Шенноном было опубликовано 34 работы, причем пик его творческой активности приходится на десятилетие с 1948 по 1958 г., когда он получил свои основные научные результаты, опубликованные в 28 научных статьях. Работы Шеннона стали классикой и вошли в «золотой фонд» науки.

Первая работа К. Шеннона, выполненная под руководством доктора В. Буша, была посвящена исследованию дифференциального анализатора — механического устройства, представляющего собой специализированную аналоговую вычислительную машину, предназначенную для решения системы дифференциальных уравнений. Шеннон рассмотрел математические вопросы теории дифференциального анализатора и определил условия, при которых с помощью этого устройства могут быть смоделированы функции одного или нескольких переменных. Он также рассмотрел пути его совершенствования, используя вместо механических узлов электрические цепи.

Еще в середине 30-х гг. К. Шеннон обратил внимание на то, что булева алгебра является адекватным математическим аппаратом, описывающим работу контактных схем, применяемых в телефонных коммутаторах, в аппаратуре управления двигателями и в большинстве схем, предназначенных для автоматизации сложных процессов. Результаты этой работы были опубликованы в 1938 г. и легли в основу его магистерской диссертации как инженера-электрика и его докторской диссертации в области математики. Они сразу же получили признание и стали применяться при проектировании телефонных систем. За эту работу в 1940 г. Клод Шеннон был удостоен Американским институтом инженеров-электриков (AIEE) премии Альфреда Нобеля. Поскольку цифровые цепи составляют основу современных компьютеров и оборудования связи, то эти результаты являются одними из наиболее важных, полученных в ХХ столетии. Следует отметить, что примерно в те же годы независимо от К. Шеннона к подобным результатам пришли советский ученый В. И. Шестаков и японский — А. Накасима.

Разработав метод анализа переключающих схем, К. Шеннон занимался исследованиями в данном направлении до 1953 г. и опубликовал еще несколько основополагающих работ. Им были рассмотрены вопросы синтеза двухполюсных переключающих схем, существенно развит метод, впервые предложенный одним из крупнейших математиков ХХ в. Дж. фон Нейманом и позволяющий синтезировать надежные схемы из ненадежных реле, указан метод оценки объема памяти телефонного коммутатора, предложены и обоснованы принципы построения вычислительной машины для проектирования переключающих схем.

Ряд чрезвычайно важных исследований К. Шеннона, выполненных в период с 1950 по 1956 г., был направлен на исследование возможностей создания логических машин, способных решать интеллектуальные задачи. Эти исследования продолжали работу, начатую знаменитыми предшественниками Шеннона в создании теории цифровых вычислительных машин А. М. Тьюрингом и Дж. фон Нейманом. К. Шеннон считал это направление чрезвычайно важным и писал в 1953 г.: «Это — не поднятая целина для ученых. Речь идет не о разработке старых месторождений, а об открытии новых богатых жил и, пожалуй, в некоторых случаях просто о том, чтобы подобрать самородки, лежащие на поверхности». Шеннон одним из первых занялся разработкой играющих машин, и в частности машин для игры в шахматы.

В 1952 г. К. Шенноном была построена лабиринтная машина — механическая мышь, названная им Тезеем в честь мифического греческого героя, победившего страшное чудовище — Минотавра и нашедшего способ выбраться наружу из запутанного лабиринта. Мышь с встроенной памятью могла самостоятельно найти путь в лабиринте, запоминая сделанные ходы и обучаясь выбору правильного пути методом проб и ошибок.

Фундаментальная работа К. Шеннона «Теория связи в секретных системах», завершенная в 1945 г., имела гриф секретности. Лишь в 1949 г. работа была рассекречена и опубликована. Она положила начало целому ряду открытых научных публикаций по проблеме засекречивания сообщений. В эпоху развития и массового применения цифровых систем связи данная проблема приобрела особое значение, поскольку засекречивание требуется не только в военных системах, но и в гражданских, по которым передается конфиденциальная информация коммерческого или личного характера.

Важнейшей работой К. Шеннона, которая сделала его всемирно известным ученым, стала опубликованная в 1948 г. статья «Математическая теория связи». В ней был заложен фундамент современной теории и техники передачи, хранения и обработки любой информации и, в частности, теории и техники связи. Установленные им основные закономерности передачи информации по каналам связи дали направление огромному числу исследований, выполненных множеством ученых в США, СССР, Франции, Израиле и других странах. К. Шеннон ввел понятие информации, содержащейся в сообщениях, подлежащих передаче по каналу связи, обобщил идеи Р. В. Хартли, который предложил в качестве меры информации I, содержащейся в М сообщениях, использовать логарифмическую функцию I = log (М). Обобщение Шеннона состояло в том, что он впервые стал рассматривать статистическую структуру передаваемых сообщений и действующих в канале шумов не только как конечные, но и как непрерывные множества сообщений. Созданная им теория информации дала ключ к решению двух основных проблем теории связи: устранение избыточности источника сообщений и кодирование сообщений, передаваемых по каналу связи с шумами.

Решение первой проблемы позволяет устранить избыточность из сообщения, подлежащего передаче, и достичь высокой эффективности использования канала связи.

Решение второй проблемы дает возможность при заданном отношении сигнал/шум в месте приема, определяющем пропускную способность канала связи, передать по нему сообщения со сколь угодно высокой достоверностью. Для этого необходимо использовать помехоустойчивые коды, а скорость передачи информации по этому каналу должна быть меньше его пропускной способности.

В оригинальных трудах К. Шеннона была доказана принципиальная возможность решения указанных проблем, что явилось в конце 40-х гг. полным откровением для специалистов. Это, как и труды в области теории потенциальной помехоустойчивости, созданной в СССР академиком В. А. Котельниковым, породило целую лавину исследований, продолжающихся уже более 50 лет. Отечественные и американские математики (в СССР — А. Н. Колмогоров, А. И. Хинчин, Р. Л. Добрушин, М. С. Пинскер и др., в США — А. Файнштейн, Р. Галлагер, Дж. Вольфовиц и др.) дали строгую трактовку этой теории.

С учетом фундаментальных законов передачи сообщений, установленных К. Шенноном, создаются современные цифровые системы связи. В соответствии с положениями теории информации в этих системах перед передачей сообщения по каналу связи устраняется его избыточность, а затем оно кодируется с использованием помехоустойчивых кодов. На основе этой теории были разработаны алгоритмы, позволившие значительно сократить избыточность факсимильных, речевых и телевизионных сообщений. Это привело к бурному развитию во второй половине ХХ в. Эффективных цифровых систем подвижной, фиксированной и спутниковой связи, а также цифрового звукового и телевизионного вещания. Такие системы уже начали внедряться, а в первом десятилетии XXI в. они полностью заменят системы, разработанные в середине прошлого века.

Следует отметить, что некоторые положения общей теории связи были разработаны предшественниками Шеннона. В США Г. Найквистом в 1924 г. была установлена связь между скоростью передачи информации и полосой пропускания канала связи, а Р. В. Хартли в 1928 г. предложил логарифмическую меру информации, содержащуюся в сообщении. В нашей стране академик В. А. Котельников еще в 1933 г. Сформулировал теорему отсчетов, лежащую в основе преобразования аналоговых сигналов в цифровую форму, а профессор Д. В. Агеев в 1935 г. разработал общие принципы линейной селекции сигналов.

Исследования в области теории связи К. Шеннон продолжал до 1960 г. Им было опубликовано 14 важнейших научных работ, в которых развивалась теория информации и методы вычисления скорости передачи информации и пропускной способности каналов связи. В работе «Каналы с дополнительной информацией на передатчике», опубликованной в 1948 г., была впервые исследована система передачи информации с обратной связью. В таких системах из места приема сигналов по обратному каналу на передающую сторону посылаются сообщения о качестве приема сигналов. Это позволяет обеспечить весьма надежную связь даже по каналам с низким качеством приема.

Интересно отметить, что подобные системы получили распространение после 1953 г., когда известным голландским специалистом Ван Дюреном для коротковолновых линий связи был предложен новый метод передачи цифровых сигналов с автозапросом — ARQ (Automatic Request Queuing). Метод состоял в том, что для передачи сообщений использовались коды, обнаруживающие ошибки, а на приеме при обнаружении ошибок осуществлялся автоматический запрос передатчика на повторение кодовых комбинаций, принятых с ошибками. Системы ARQ широко применялись на линиях коротковолновой связи, позволяя существенно повысить их помехоустойчивость при передаче цифровой информации.

Последняя из опубликованных работ К. Шеннона (1960 г.) также была посвящена системам передачи информации с обратной связью.

В 1948 г. К. Шеннон совместно со своими коллегами по Белл-лаборатории — видными американскими учеными Б. Оливером и Дж. Пирсом опубликовал первое научное исследование возможностей использования импульсно-кодовой модуляции (ИКМ) для передачи сигналов. В этой статье было также приведено доказательство теоремы отсчетов, о которой уже упоминалось ранее.

Следует отметить, что независимо подобные результаты были опубликованы в СССР в 1949 г. С. В. Бородичем, который исследовал возможность создания цифровых радиорелейных систем связи с использованием ИКМ.

Совместно с Г. Боде — крупнейшим специалистом в области электрических цепей К. Шеннон опубликовал в 1950 г. важную для теории связи работу «Упрощенный вывод линейной теории сглаживания и предсказания по методу наименьших квадратов «. В этой работе основные результаты теории сглаживания и предсказания стационарных временных рядов Винера—Колмогорова были получены новым методом, основанным не на формальном математическом подходе, а на наглядных физических соображениях и теории электрических цепей.

В 1959 г. К. Шеннон вслед за известным американским ученым С. О. Райсом получил результаты, перекидывающие мост между фундаментальной теорией потенциальной помехоустойчивости, созданной В. А. Котельниковым, и теорией информации, оценив вероятность ошибочного приема сигналов в системе связи, в которой используются многопозиционные сигналы.

Популярность теории информации среди ученых стремительно возрастала, и ее пытались, не всегда обосновано, применять во многих научных направлениях, таких как биология, психология, экономика, физика, и в других областях науки и техники. Это вызвало сильное беспокойство у Шеннона, выступившего в 1956 г. Со статьей «Бандвагон», в которой он писал: «…значение теории информации было, возможно, преувеличено и раздуто до пределов, превышающих ее реальные достижения… Теория информации, как модный опьяняющий напиток, кружит голову всем вокруг…» К. Шеннон выступил против формальных работ, в которых понятия новой теории переносились в другие области науки, и предупреждал: «Здание нашего несколько искусственно созданного благополучия слишком легко может рухнуть, как только в один прекрасный день окажется, что при помощи нескольких магических слов, таких как информация, энтропия, избыточность… нельзя решить всех нерешенных проблем».

Помимо исследований в области теории управляющих систем, криптографии и теории информации Шеннон выполнил ряд блестящих исследований более частных проблем. В 1951 г. он разработал метод, позволяющий определить энтропию печатного текста, и применил его к английскому тексту, определив его избыточность. Важной для проектирования сложных сетей связи является его статья «О максимальном потоке через сеть», опубликованная им в 1956 г. совместно с П. Элайсом и А. Файнштейном — известными американскими учеными.