Анализ способов представления информации морфемными структурами при наличии случайных возмущений

Актуальность темы

обусловлена глобализациией и интенсификацей коммуникаций (системы сотовой связи, Internet и т. д.), которые выдвигают проблему передачи информации в число приоритетных. Актуальными на сегодняшний день становятся вопросы повышения пропускной способности сетевых и других коммуникационных каналов для обеспечения максимально насыщенного (аудио, видео) взаимодействия абонентов и пользователей в режиме реального времени, а также обеспечение защиты каналов от несанкционированного доступа.

Систематическое изучение данной проблемы началось с массового внедрения достижений в области связи в самые разнообразные сферы человеческой жизни.

Феномен коммуникации в социальных системах, в том числе в тех, в г которых он опосредован техническими средствами (что и будет нас интересовать в дальнейшем в первую очередь), предполагает наличие трех элементов:

1) субъекта — источника информации;

2) среды передачи информации;

3) субъекта — приемника информации.

В рамках теории информации и кодирования первые два элемента были выведены за пределы рассмотрения путем редукции их к некоторому источнику с заданным алфавитом и априорным распределением вероятностей символов алфавита. Такой подход оказался методологически оправданным, и в его рамках была получена масса ценных результатов, имеющих в том числе и важное прикладное значение.

Тем не менее, такой подход к рассмотрению феномена коммуникации остается упрощенным по своей сути и упускает из виду многие важные аспекты, учет которых может значительно повысить эффективность систем связи. Как справедливо отметил Хэмминг в отношении такого наиболее часто встречающегося при рассмотрении этой проблематики понятия как информация [47], классическое определение информации «включает в себя лишь часть того разнообразия, которое содержится в обычном понятии информации», а именно, имеет дело не со смыслом информации, а с ее количеством. Кроме того, многие задачи, связанные в первую очередь с человеко-машинным взаимодействием, принципиально не могут быть решены без учета факторов, отражающих субъектный компонент ситуации коммуникации. Поэтому более полное рассмотрение, как нам представляется, предполагает учет семантическим аспектов проблемы.

Упомянутый выше феномен коммуникации изучается также и лингвистикой, в рамках которой он получил детальную проработку, правда с использованием присущих ей терминологического аппарата и методов.

Попытки использования результатов лингвистической науки в конкретных прикладных системах (машинный перевод, распознавание и синтез речи, информационно-поисковые и системы автоматического реферирования) освещаются в литературе (см. [13]). Однако на взгляд автора какой-либо сторого формализованной обобщающей теории (несмотря на многочисленные попытки это сделать) на сегодняшний день не существует.

Если использовать лингвистическую терминологию, то из двух аспектов (планов) сообщения традиционно теория информации рассматривает только план выражения, оставляя за рамками рассмотрения план содержания.

Цель работы заключается в том, чтобы на основе подходов и методов, выработанных в рамках наук радиофизического профиля, с одной стороны, и лингвистического профиля, с другой стороны, при активном использовании методов искусственного интеллекта разработать методику оценки способов представления и кодирования одного специфического класса сообщений (сообщений на естественном языке), чтобы затем провести расширенное рассмотрение некоторых традиционных задач радиофизики и теории информации (эффективное кодирование, помехозащищенность и защита от несанкционированного доступа) путем перехода от чисто физических полей и сигналов к информационным полям.

Предмет исследования диссертационной работы информационные поля и их представление, способы их кодирования, передачи по каналам связи и декодирования. Кроме того, ввиду подверженности каналов связи воздействию искажающих влияний и несанкционированных действий рассматриваются вопросы помехозащищенности и секретности при передаче закодированных (зашифрованных) с помощью предложенных в работе алгоритмов сообщений. Эффективное использование ресурсов канала можно повысить за счет сжатия передаваемых по нему сообщений, поэтому вопросы оценки избыточности и способы ее устранения также рассматриваются в данной работе.

Методы исследования. При выработке подходов к информационным оценкам способов кодирования были использованы преимущественно теоретические методы теории вероятностей и теории информации, методы помехоустойчивого кодирования, теории секретных систем (криптологии и криптографии), теории иерархических систем, математической лингвистики. Вычислительные методы были использованы при работе с практическим материалом. Кроме того, были задействованы методы логического программирования и математической лингвистики (порождающие грамматики). Компьютерная реализация достаточно сложной системы, необходимой для работы с практическим материалом потребовала привлечения методов объектно-ориентированного программирования и теории разработки компиляторов и интерпретаторов.

Таким образом, в работе были использованы методы, большей частью ориентированные на дискретную математику, поскольку исследование проводилось над конечными и конечно порожденными множествами и системами конечных множеств — отношениями. Основной инструмент, используемый здесь, — комбинаторный анализ. И хотя комбинаторный анализ обладает меньшей общностью и универсальностью понятий чем дедуктивные.

разделы математики, он в большей степени наделен конкретным содержанием.

Научная новизна диссертации заключается в расширенной постановке некоторых радиофизических задач (оптимальное кодирование, помехоустойчивая передачи сообщений, секретность) путем перехода от анализа свойств физических полей и сигналов, используемых для передачи информации, к исследованию информационных полей, возникающих при расширении объема и структуры алфавита источника и восстановления (в процессе дополнительной обработки сообщения) факторов контекста, выражающих нелинейные связи между символами алфавита внутри сообщения. Кроме того, в работе разработаны инструменты для математически формализованного выражения информативности языковых единиц. Информативность в рамках лингвистики рассматривается с большей степенью полноты нежели это имеет место в теории информации, которая затрагивает только количественные аспекты этого понятия, однако лингвистическая трактовка информации в значительной степени интуитивна, что затрудняет ее формализацию и оценку.

Ценность работы. Результаты работы имеют как теоретическую так и прикладную ценность. Они предоставляют инструмент для количественной оценки значимости языковых феноменов и процессов как с точки зрения их чисто информационных характеристик так и с точки зрения их практической реализации системах, связанных с передачей и обработкой языковых сообщений. В работе предложено использовать понятие информационного поля применительно к задачам, связанным с передачей, обработкой, хранением и защитой информации, что позволяет перейти от представления сообщений как линейной последовательности символов алфавита источника, к более комплексным формам представления информации, учитывающим весь спектр взаимодействий между структурными элементами сообщения. И хотя в диссертации не было дано сторого формализованное определение этого понятия, его основные аспекты были продемонстрированы на примере морфемного уровня языковой иерархии. Можно полагать, что идеи методики, сформулированные для этого уровня, окажутся справедливыми и для всех остальных вышележащих уровней. При этом, естественно, предполагается, что схема построенной методики будет наполняться конкретным содержанием, специфичным именно для каждого текущего уровня языковой системы.

Основные положения и результаты, выносимые на публичную защиту.

• предложено использовать морфологическую структуру текстовых сообщений на естественном языке для расширения алфавита при кодировании в системах помехоустойчивой передачи сообщений, сжатия информации и защиты информации от несанкционированного доступа;

• разработана методика информационной оценки различных способов представления сообщений морфологическими структурами, основанная на комбинаторном подходе к измерению информации;

• определена зависимость избыточности текстовых сообщений текстовых сообщений от ряда факторов, предложена методика их оценки и определены способы сокращения избыточности;

• предложен способ повышения помехоустойчивости передачи текстовых сообщений по каналам связи с шумом, основанный на использовании корректирующих свойств контекста;

• разработана интегрированная программно-реализованная система для инвентаризации морфемного состава русского языка, проведения его информационных измерений и контроля его целостности.

Диссертационная работа состоит из введения, четырех глав и заключения.

ЗАКЛЮЧЕНИЕ

.

В данной диссертационной работе получены следующие основные результаты:

1. Предложено использовать морфологическую структуру текстовых сообщений на естественном языке как один из способов представления информационного поля для расширения алфавита при кодировании в системах помехоустойчивой передачи сообщений, сжатия информации и защиты информации от несанкционированного доступа. Что позволяет перейти к более содержательным моделям текстовых сообщений (информационным полям) и дает возможность более гибко управлять их информационными характеристиками.

2. Разработана методика информационной оценки различных способов представления информации морфологическими структурами, основанная на комбинаторном подходе к измерению информации, что позволяет дополнить вероятностный подход к измерению информации, который в отношении языковых явлений не обладает необходимой степенью робастности оценок.

3. Определена зависимость избыточности текстовых сообщений от ряда факторов. В первую очередь, это зависимость друг от друга признаков, выбранных для идентификации морф. Вторая причина — это неравномерное распределение морф между подмножествами, образованными в результате разбиения на основе значений языковых признаков. Предложена методика ее оценки и определены способы сокращения избыточности, в первую очередь, за счет привлечения контекста. Показано, что использование грамматических моделей позволяет сократить размер алфавита при кодировании, если при этом сами грамматические состояния не кодируются, а восстанавливаются из контекста.

4. Предложен способ повышения помехоустойчивости передачи текстовых сообщений по каналам связи с шумом, во-первых, за счет изменения размера и структуры алфавита источника, во-вторых, за счет привлечения корректирующих свойств контекста. Данный способ можно рассматривать как частный случай инвариантных относительно семантики преобразований информационного поля, направленных на повышение его устойчивости к искажающим воздействиям.

5. Разработана интегрированная программно-реализованная система для инвентаризации морфемного состава русского языка, проведения его информационных измерений и контроля его целостности.

В данной работе было введено понятие информационного поля. Хотя его формальное определение дано не было, на примере морфемного представления информации были обозначены основные аспекты этого понятия и продемонстрированы возможные подходы к оценке количественных характеристик информационного поля. Наиболее полное описание структуры и свойств информационного поля может быть достигнуто только при учете связей между элементами сообщения, представляющих все уровни языковой системы. Для этого необходимо прежде всего построение математических моделей, ориентированных на решение конкретных радиофизических задач по передаче, хранению, обработке и защите информации. Сложность разработки и исследования этих моделей увеличивается по мере продвижения вверх по языковой иерархии. В связи с тем, что соотношение между воспроизводимостью и производимостью языковых единиц при этом все больше смещается в сторону последней, для оценки информационных характеристик соответствующих форм представления сообщений чисто комбинаторный подход становится недостаточным. Определение элемента множества дается уже не через указание его порядкового номера внутри множества, а через описание способа его порождения. Поэтому более значимы становится аппарат частично рекурсивных функций (алгоритмов) и алгоритмический подход к измерению информации.

Следует отметить, что преимущественное использование в работе комбинаторного подхода к измерению информации отнюдь не исключает вероятностного. Оба подхода могут вполне успешно взаимно дополнять друг друга. Важно лишь отчетливое понимание условий их применимости.