Минимальные множества однородных потоков и метрические свойства индуцированных действий

Настоящая работа относится к теории динамических систем и групп преобразований. В первых двух главах изучаются вопросы топологической динамики, а в третьей главе речь пойдет о метрической теории, в которой изучаются группы преобразований с инвариантной мерой.

Первая глава работы посвящена изучению некомпактных минимальных множеств геодезического потока на поверхностях постоянной отрицательной кривизны. В частности, доказывается гипотеза относительно существования таких множеств, сформулированная Ф. Дальбо и А. Н. Старковым.

С точки зрения теории однородных динамических систем, геодезический поток на единичном касательном расслоении Т1М к поверхности М постоянной отрицательной кривизны можно представить в качестве однородного потока, заданного однопараметрической подгруппой {gt: t G R} на однородном пространстве rPSL (2,R) = Т1М, где и Г — некоторая фуксова группа, то есть дискретная подгруппа в группе PSL (2,R) = SL (2,R)/{±1}. Более точно, геодезический поток определяется формулой.

Дадим определения минимального и неблуждающего множеств для произвольного непрерывного потока на топологическом пространстве X. Множество F С X называется минимальным относительно потока (или ^-минимальным), если F замкнуто, непусто и «^-инвариантно и для любой точки х € F замыкание ее орбиты совпадает с F: = F. Точках G Л' называется блуждающей относительно потока^, если найдутся такие открытое множество U Э х и число Т > О, что для любого t, такого что |?| > Т, выполнено.

9t{Tg) = Гggu g € PSL (2, R), t e R. потока ipz состоит из всех точек х? X, которые не являются блуждающими.

Геодезический поток па rPSL (2, R) обладает богатым запасом минимальных множеств. Тривиальными (то есть, состоящими из единственной траектории) минимальными множествами геодезического потока являются периодические орбиты и орбиты, дивергентные в обе стороны (то есть, уходящие на бесконечность при t ±00). Например, если поверхность М имеет конечную площадь, то периодические орбиты плотны в Т1М, а если М вдобавок некомпактна, то в ТгМ плотны также и дивергентные в обе стороны орбиты. Пример нетривиального (то есть, отличного от замкнутой орбиты) минимального множества, локально несвязного в любой точке, был построен в работе Г. Морса [23]. Для этого использовалось геометрическое кодирование геодезических, с последующим построением нетривиального минимального множества для символической динамики с алфавитом {0,1} (подробности см. в книге В. X. Готтшалка и Г. А. Хсдлупда [14, Appendix]).

В то время, как для любой неэлементарной (то есть, не содержащей абелеву подгруппу конечного индекса) фуксовой группы Г геодезический поток всегда обладает нетривиальным компактным минимальным множеством, вопрос о существовании нетривиальных некомпактных минимальных множеств был решен положительно только в 2002 году в работе Ф. Дальбо и А. Н. Старкова [9]. Именно, такие множества были построены для групп с параболическими элементами (в частности, для Г = SL (2, Z)), а также для некоторого специального класса бесконечно-порожденных групп Шоттки. При этом основным было построение минимального множества символической динамической системы с бесконечным алфавитом, получающейся в результате геометрического кодирования геодезических. Там же был предложен в качестве гипотезы критерий существования таких множеств, который доказан в настоящей работе:

Теорема 1 (Гипотеза Дальбо-Старкова). Геодезический поток на TPSL (2, R) обладает нетривиальным некомпактным минимальным множеством тогда и только тогда, когда фуксова группа Г неэлемен-тпарпа и обладает параболическим элементом или бесконечно порождена.

Доказательство состоит в обобщении метода построения некомпактного минимального множества для геодезического потока из работы [9] на класс произвольных бесконечно-порожденных фуксовых групп.

Во второй главе изучаются орбиты орициклического потока па поверхностях постоянной отрицательной кривизны, а также орбиты линейного действия на плоскости дискретной подгруппы в SL (2,R), тесно связанного с орициклическим потоком. Построены примеры орицикличе-ского потока, который не обладает ни одним минимальным множеством, и линейного действия на плоскости бесконечно-порожденной дискретной подгруппы в SL (2, R), обладающего только дискретными и всюду плотными орбитами.

Наличие минимальных множеств является важным свойством динамической системы. Например, одно из доказательств Г. А. Маргулиса гипотезы Оппснгейма-Давенпорта существенно используется тот факт, что у возникающей в ходе доказательства однородной динамической системы всякое замкнутое инвариантное множество содержит минимальное подмножество (см. [7], [22]).

Как, например, следует из леммы Цорна, всякий поток на компактном многообразии обладает минимальным множеством. Однако для некомпактных многообразий это уже, вообще говоря, неверно. Вопрос о существования потоков без минимальных множеств можно считать почти классическим с 1970;х годов. В [16] было построено двумерное слоение в R3 без минимальных множеств. В том примере, чтобы обеспечить столь нетривиальную динамику, присутствовали листы с бесконечным числом концов и нетривиальной голономией, то есть, существенно использовалась двумерность слоения. Таким образов, внимание было привлечено к случаю потоков. В частности, в работе [35] спрашивалось, существует ли замкнутое многообразие, на котором имеется ноток, не обладающий пи одним минимальным множеством.

Гладкие примеры таких потоков были построены недавно в работах [5] и [18]. В настоящей работе, по-видимому, впервые приведен пример такого потока алгебраического происхождения (теорема 3 ниже). Именно, поток без минимальных множеств можно построить в классе орициклических потоков.

Орицигслический поток на ТХМ = rPSL (2,R) задается действием однопараметрической подгруппы строго-верхних треугольных матриц {щ: t G R} по формуле дезическому, орициклический поток не обладает столь богатым запасом минимальных множеств. В случае компактной поверхности М, поток иа минимален, то есть единственным ttR-мииимальиым множеством является все фазовое пространство Т1 А/, а для орициклического потока на и"(Г$) = Гдии д € PSL (2,R), t € R, противоположность гсонекомпактной поверхности конечной площади и^-минимальныс множества суть периодические орбиты (см, например, работу Г. А. Хедлун-да [15] или обзор Э. Гиса [13]). Если же М имеет бесконечную площадь, то ситуация может еще более усугубиться:

Теорема 2. Существует? элементарная фуксооа группа Г, такая что поток, полученный ограничением на нсблуждающсс множество орициклического потока на пространстве rPSL (2, R), не имеет минимальных множеств.

Более того, оказывается, что бывают орициклические потоки вообще без минимальных множеств:

Теорема 3. Существует фуксова группа Г, такая что орицикличе-ский поток на пространстве rPSL (2, R) не имеет минимальных множеств.

Для построения этих примеров используется классификация предельных точек фуксовой группы в зависимости от поведения соответствующих орициклов (определение и классификацию предельных точек и связь с поведение орбит орициклического потока см. в пункте 1.1.3), рассматриваемой в работе Ф. Дальбо и А. Н. Старкова [8]. В [8] в терминах геометрического кодирования предельного множества группы Шоттки было дано простое описание подклассов предельных точек, определяющих поведение соответствующих орбит геодезического потока. Что же касается орициклического потока, то были построены примеры, показывающие, что тип предельной точки, характеризующий поведение орицикла, не поддается описанию в терминах кодирования, а имеет более сложную зависимость. При этом рассматривались простейшие бесконечно-порожденные группы Шоттки второго рода (то есть, предельное множество которых является канторовым подмножеством абсолюта). Другие интересные примеры групп Шоттки, обладающих предельными точками определенного типа, имеются в работах П. Николлса [26], [27] и П. Ни-коллса и П. Уотермана [29].

Для доказательства теорем 2 и 3 оказывается полезным ввести новый класс предельных точек, обладающих так называемым свойством сдвига (см. раздел 2.1). Следующее предложение показывает, что выполнение этого свойства для всех предельным точек является препятствием к существованию минимальных множеств:

Предложение. Если все предельные точки фуксовой группы обладают свойством сдвига и имеются нерегулярные предельные точки, то неблуждающее множество fi+ оригщклического потока не содерэ/сит и-^-минимальных подмноо/сеств.

Основная техническая сложность при построении искомых фуксовых групп состоит п доказательстве того, что достаточно обширный класс предельных точек состоит из орициклических точек (которые автоматически обладают свойством сдвига). Чтобы преодолеть это, во второй главе настоящей работы развита так называемая «техника прыжков», позволяющая устанавливать орицикличиость предельных точекпри этом область ее применения значительно шире методов работы [8]. В частности, появляется возможность рассматривать группы первого рода (то есть, предельным множеством которых является весь абсолют), для которых нет блуждающих относительно орициклического потока точек в rPSL (2,R), в то время как методы в статье [8] позволяли работать только со специальным классом групп Шоттки второго рода. Эта техника, в сочетании с использованием свойства сдвига, и позволяет построить группы, искомые в теоремах 2 и 3. Ей находится также и другое применение, о котором речь пойдет ниже.

Геометрию заданной дискретной подгруппы Г С SL (2, R) можно изучать, исходя из строения орбит ее естественного линейного действия на плоскости R2. Например, если Г — решетка (то есть, Г — дискретная группа и rSL (2, R) имеет конечный объем), то дискретные Г-орбиты (исключая нулевую точку) существуют в том и только в том случае, когда пространство rSL (2, R) некомпактно. Известно также, что линейное действие решетки обладает только дискретными и всюду плотными орбиты. В работе [8] был задан следующий вопрос:

Существует ли дискретная подгруппа в SL (2, R), не являющаяся решеткой, линейное действие которой на плоскости обладает только дискретными и плотными в R2 орбитами?

Можно показать, что ввиду двойственности орициклического потока и соответствующего линейного действия дискретной подгруппы, это эквивалентно вопросу о существовании бесконечно-порожденной фуксовой группы первого рода, предельное множество которой не содержит нерегулярных предельных точек. В [8] высказывалось предположение, что таких групп не существует (хотя группа, частично удовлетворяющая этим требованиям, приведена в [8, Theorem 5.4]). Неожиданно оказалось, что такие группы существуют, а именно, с использованием «техники прыжков» в настоящей работе построен соответствующий пример.

Теорема 4. Существует бесконечно-порожденная (а потому, не являющаяся решеткой) фуксова группа Г первого рода, такая что се предельное множество не содержит нерегулярных предельных точек. Поэтому орбиты орициклического потока па пространстве rPSL (2, R) либо замкнуты, либо всюду плотны, а естественное линейное действие в R2 группы р'1 (Г) обладает только дискретными и всюду плотными орбитами, где р: SL (2,R) PSL (2, R) — проекция.

В третьей главе изучаются метрические свойства так называемой конструкции Т-индуцирования. Доказаны необходимые и достаточные условия эргодичности Т-индуцированных потоков (и более обще, Т-ин-дуцированных действий связных подгрупп) для некоторого класса подгрупп в группах Ли, охватывающего разрешимые связные подгруппы в полупростых группах и произвольные связные подгруппы в разрешимых экспоненциальных (в частности, коммутативных и нильпотентных) группах Ли. Кроме того, доказаны необходимые и достаточные условия перемешивания Т-индуцированных потоков для однопараметриче-ских подгрупп в произвольных связных группах Ли.

К настоящему времени весьма детально исследованы эргодические (в частности, спектральные) и топологические свойства потоков на однородном пространстве конечного объема, которые индуцированы тривиальным действием стабилизатора (подробное изложение теории однородных потоков см. в книге А. Н. Старкова [33]). С точки зрения динамической теории групп преобразований, представляет интерес изучение свойств общих Т-индуцированных потоков, для которых имеется нетривиальное действие Т стабилизатора. Во-первых, это даст возможность распространить результаты об однородных потоках на весьма широкий класс динамических систем и, вместе с тем, обнаружить новые эффекты, которые не проявляются на уровне однородных потоков. Во-вторых, изучение динамических систем, индуцированных сохраняющим меру действием замкнутой подгруппы Г группы Ли G, может привести к более основательному пониманию эффектов и закономерностей однородной динамики и их места в общей теории. Некоторые вопросы, связанные с Т-индуцированными действиями, рассмотрены в работе А. М. Стёпина [36].

Конструкция Т-индуцированного действия состоит в следующем. Пусть G — связная вещественная группа Ли, и заданы подгруппа F С G и действие Т на пространстве X подгруппы Г С G. На X xG рассмотрим действие группы G х Г, заданное формулой.

9,7)' (х, 9о) = (Г (7)х, рро7″ 1)" 9,9О е G, 7 G Г, х G А'.

Поскольку действия групп G и Г перестановочны, то на пространстве Л' хт G орбит группы Г корректно определено действие 1 т группы G, которое назовем действием, индуцированным при помои^и действия Т (кратко — Т-индуцированным действием). Ограничение действия It на подгруппу F назовем Т-индуцированным действием подгруппы F. Если F — однопараметрическая подгруппа, то Itf называется Т-индуцированным потоком.

Конструкция Т-индуцированного действия, с одной стороны, является обобщением однородного действия на G/Г, так как в этом случае индуцирующее действие Т стабилизатора Г тривиально, и потока-надстройки над преобразованием S (в этом случае G = R, а индуцирующее действие решетки Г = Z определяется по формуле T (k) = Sk), а с другой стороны, — частным случаем конструкции действия, построенного по образу коцикла, а: Л' х Г G (подробности см. в [12, Sec. 2.3]), так как в нашем случае а (х,~/) = 7. Аналогом Т-индуцированного действия в категории унитарных представлений является конструкция индуцированного представления Макки (см. [2, Гл. II, § 4], [20, § 13]).

Предположим далее, что Г замкнута и конечного ко-объема, то есть однородное пространство G/Г обладает конечной мерой /*с/г> инвариантной относительно сдвигов слева на элементы G (будем считать iiG/r{G/Y) = 1), и (Х, Х, цх) — пространство Лебега с конечной нормированной мерой цх,^х (Х) = 1, которая инвариантна относительно Т. Тогда А' Хт G естественным образом обладает измеримой структурой и конечной /^-инвариантной мерой, причем А' х^ G изоморфно как пространство с мерой прямому произведению X х (С/Г), на котором действие 1 т является косым произведением с однородным действием группы G на G/Г в качестве базы.

Очевидными необходимыми условиями эргодичности Т-индуцированного действия Itf подгруппы F С G являются эргодичность действия Т и однородного фактор-действия F на G/Г. Однако, Т-индуци-рованное действие может оказаться неэргодичным, даже если эти условия выполнены (см. пример в пункте 3.5.1), даже в случае полупростой группы G (см. пункт 3.5.3).

Полученные результаты удобно сформулировать при помощи следующего определения:

Определение. Сохраняющее конечную меру действие Т группы G на пространстве Лебега X' называется допустимым по отношению к действию Т ее замкнутой подгруппы Г (кратко Т-допустимым), если X' — фактор-пространство пространства X, полученное факторизацией по измеримому Т-инвариантному разбиению? пространства X, и ограничение Т|г действия Т на подгруппу Г совпадает с фактор-действием T/lI действия Т.

Теорема 5. Пусть G — связная полупростая группа, Т — действие подгруппы Г С G конечного ко-объема на пространстве Лебега с копечной мерой, и F С G — связная разрешимая подгруппа, однородное действие которой па GJГ эргодичпо.

Тогда для эргодичности Т-индуцированного F-действия па Х^х? G необходимо и достаточно, чтобы било эргодичным ограничение Тр на подгруппу F любого Т-допустимого действия Т группы G.

Пусть 65 — алгебра Ли группы G, и ехр: (5 —" G — экспоненциальное отображение алгебры Ли в группу Ли. Элемент х 6 С5 называется эрго-дическим, если для любой замкнутой подгруппы Г конечного ко-объема заданный подгруппой {exp (ta): t € R} однородный поток на G/Г эрго-дичен.

Следствие. Пусть G — связная полупростая группа, Т — эргодическое действие подгруппы Г С G конечного ко-объема па пространстве Лебега с конечной мерой, и F = {exp (far): t € R} С G — однопараметрическая подгруппа, порожденная эргодическим элементом х € 65.

Тогда Т-индуцированный поток Itf эргодичен.

О действиях (в том числе, не только однородных) замкнутых подгрупп в полупростых группах см. работу А. М. Стёпина [34].

Определение. Скаэ/сем, что подгруппа F группы Ли G удовлетворяет условию (Е), ссли для всех операторов А<!(/), / € F, единица является единственным собственным значением, равным по модулю единице, где Ad: G —> Aut (C5) — присоединенное представление.

Заметим, что если G — коммутативная, нильпотентная или экспоненциальная разрешимая группа Ли, то это условие выполнено для любой ее подгруппы F (говорят, что разрешимая группа Ли G экспоненциальна, если для всех операторов Ad (#), g G G, единица является единственным собственным значением, равным по модулю единице).

Теорема 6. Пусть G — связная группа Ли, Т — действие подгруппы Г С G конечного ко-объема па пространстве Лебега X с конечной мерой, F С G — связная подгруппа, удовлетворяющая условию (Е), однородное действие которой па G/Г эргодичпо.

Тогда для эргодичности Т-индуцированного F-действия на X хт G необходимо и достаточно, чтобы было эргодичным ограничение Тр па подгруппу F любого Т-допустимого действия Т группы G.

Более того, если Т-индуцированное F-действие не эргодичпо, то найдется Т-допустимое G-действие Т на нетривиальном (то есть, на содерэ/сащем множество промежуточной между 0 u 1 меры) пространстве с мерой, ограничение которого на F тривиально (то есть, для всех f € F преобразование T (f) тоэ/сдествепно (mod 0)).

Замечание. Как следует из доказательства, утверждения о необходимости теорем 5 и G справедливы для любой подгруппы F в произвольной связной группе Ли G.

С другой стороны, для произвольной группы G утверждения о достаточности теорем 5, б, вообще говоря, неверно (см. пример в пункте 3.5.2). Из леммы о редукции 11 следует, что в общем случае вопрос эргодичности Т-индуцировапного действия может быть сведен к ситуации, когда заданное подгруппой F однородное действие на G/Г изоморфно однородному действию квазиунипотентной группы.

Теоремы 5 и G имеют аналоги в виде критерия существования неподвижных векторов для индуцированных представлений (см. раздел 3. G).

Для однородного F-потока на С/Г сильное перемешивание эквивалентно слабому (это следует, например, из того, что спектр эргодиче-ского однородного потока является суммой точечного и счетнократного Лебеговского спектра (одна из компонент может отсутствовать) [6, Th. G.2J) и является очевидным необходимым условием слабого и сильного перемешиваний Т-индуцированного F-потока на А' хт G.

Теорема 7. Пусть G — связная группа Ли, Т — действие подгруппы Г С G конечного ко-объема на пространстве Лебега с конечной мерой, F = С G — однопараметрическая подгруппа, такая что однородный F-поток на G/Г сильно перемешивает.

Тогда Т-индуцированный F-поток на X XxG сильно (слабо) перемешивает тогда и только тогда, когда сильным (соответственно, слабым) перемешиванием обладает ограничение Тр на F любого Т-допу-стимого действия Т группы G.

Результаты работы докладывались на семинарах по динамическим системам механико-математического факультета Московского государственного университета в 1998;2003 гг., на Колмогоровских чтениях (1999), и на международных конференциях в Кацивели (Украина, 2000), в МИ АН (Москва, 2002) и в Марселе (Франция, 2003).

Содержание диссертации опубликовано в работах [37], [38], [39], [40], [41], [42].

Автор выражает глубокую благодарность своим научным руководителям А. Н. Старкову и А. М. Стспину за постановку задач, помощь и постоянное внимание к работе, а также Д. В. Аносову за плодотворные обсуждения и цепные замечания. Автор благодарит Математический Институт (IRMAR) Университета-1 города Рейн (Франция) за гостеприимство в течении визита (февраль-март 2002 года), состоявшегося в рамках программы обмена между Независимым Московским Университетом и CNRS (Франция), в течении которого была получена часть результатов настоящей работы.

Список обозначений.

Z — кольцо целых чисел R — поле вещественных чисел.

R" — n-мерное линейное вещественное пространство.

С — поле комплексных чисел.

Re 2 — вещественная часть комплексного числа 2.

Im z — мнимая часть комплексного числа z z — число, комплексно-сопряженное комплексному числу 2.

Е — замыкание множества Е.

GjГ, ГG — однородные пространства правых и левых классов смежности элементов группы G по подгруппе Г а] — наибольшее не превосходящее вещественного числа, а целое число Н2 — плоскость Лобачевского effl2 — абсолют (бесконечно удаленная прямая плоскости Лобачевского) diag (ai,., а&bdquo-) — диагональная матрица с элементами а, ., ап на диагонали.

SL (n, R) — группа преобразований R" (вещественных матриц пхп) с единичным определителем.

Iso+tH2) = PSL (2,R) = SL (2,R)/{±1} — группа сохраняющих ориентацию изометрий Н2, изоморфная группе рассматриваемых с точностью до знака матриц из SL (2, R).

М = Н2/Г — поверхность постоянной отрицательной кривизны, полученная факторизацией по действию фуксовой группы Г.

ТЧй2 = PSL (2, R) — множество единичных касательных векторов к Н2 Т1М = TPSL (2, R) — множество единичных касательных векторов к поверхности М.

7Г: TJH2 -> Т1М, 7г: PSL (2,R) rPSL (2,R) — проекция dist (*, •) — гиперболическое расстояние (/(•, •) — евклидово расстояние diam (-) — диаметр множества по отношению к евклидовому расстояния.

Л = Л (Г) — предельное множество фуксовой группы Г (с. 19) Л л — множество орициклических предельных точек (с. 19) Ad — множество дискретных предельных точек (с. 19) A, rr — множество нерегулярных предельных точек (с. 19) Ас — множество конических предельных точек (с. 20) Аа — множество предельных точек со свойством сдвига (с. 34) геодезический поток (с. 18) я — (сжимающийся) орициклический поток (с. 18).

0((v) — орицикл в Н2 с центром? € ОТ2, проходящий через точку v €.

Н2.

О^(и) — орицикл в Т1!!2, соответствующий 0^(v) lnt (0^(u)) — внутренность орицикла 0^(v) Vis, Vis+: Т’Н2 —" ЗН2 — визуальные отображения (с. 19) Q — неблуждающее множество геодезического потока (с. 20) неблуждающее множество орициклического потока (с. 20) fi = 7r-1(fi) — прообраз при проекции тт множества Q.

А — A (II, D) — алфавит для выбранных Шоттковых системы образующих II и (фундаментальной области D фуксовой группы (с. 22).

X = А'(Л) — пространство правых допустимых последовательностей в алфавите, А (с. 23) а: X —>• А — геометрическое кодирование предельных точек (с. 24) В — множество больших геодезических (с. 27).

Y = Y (A) — пространство двусторонних допустимых последовательностей в алфавите, А (с. 28) а: Y —> В — геометрическое кодирование больших геодезических (с. 28) c (S) — евклидов центр полуокружности S (с концами на вещественной прямой) (с. 36) r (S) — евклидов радиус полуокружности S (с. 36) Int (S), Ext (S) — внутренность и внешность полуокружности S Is — инверсия относительно полуокружности S h (Si, S2) — автоморфизм, переводящий полуокружность S в полуокружность 5 г, имеющий полуокружность Si в качестве изометрической (с. 36).

S (h) — изометрическая окружность автоморфизма h (с. 36) Ad: G —> Aut (0) — присоединенное представление группы Ли G схр: (5 —> G — экспоненциальное отображение алгебры Ли 0 в группу Ли G.

M (F) — нормальная подгруппа Мура для подгруппы F (с. G4) ААВ = (Л?)и (?Л) — симметрическая разность множеств An В.

•>*)// — скалярное произведение в (комплексном) гильбертовом пространстве Я.

U (#) — группа унитарных преобразований гильбертова пространства Я.

L2(X) = L2(А", /I) — гильбертово пространство (классов эквивалентности) квадратично-интегрируемых (по мере /х) комплексно-значных функций, определенных на А'.

L2(X, Я) — гильбертово пространство функций, определенных на X и принимающих значения в гильбертовом пространстве Я, квадрат нормы которых интегрируем.

5 = Т — изоморфные действия S и Т Тр — ограничение действия Т па подгруппу F Fix (p (F)) — множество векторов, неподвижных относительно действия элементов подгруппы F при представлении р

X хт G — пространство орбит диагонального действия подгруппы в группе G, соответствующее действию Т (с. 58).

1 т — действие группы Ли, индуцированное действием Т замкнутой подгруппы (с. 59) lp — представление группы Ли, индуцированное представлением р замкнутой подгруппы (с. 59).

L?p (G, Я) — гильбертово пространство, в котором определено индуцированное представление ip (с. 59).

Ид- — тождественное преобразование пространства А' A'/f — фактор-пространство пространства Лебега А' по измеримому разбиению f.

Yf — фактор-действие действия Т на пространстве X по измеримому Т-инвариантиому разбиению f.

21 (T, U) — специальная ст-подалгебра измеримых множеств, определенная по действию Т и нормальной подгруппе U (с. 63).

L (p, U) — специальное подпространство, определенное по представлению р и нормальной подгруппе U (с. 66).

Bs{xо) — открытый шар радиуса 5 с центром в точке xq Гу = ГU — замыкание группы ГС/, где Г — подгруппа, a U — нормальная подгруппа (с. 63).

1. лпанасов Б. Н. Геометрия дискретных групп и многообразий. Москва, «Наука», 1991.

2. Ауслендер J1., Грин JI., Хлн. Ф. Потоки на однородных пространствах, М.: Мир, 19GG.

3. Бердон А. Геометрия дискретных групп. М.: Наука, 198G.

4. Dani S. G., Margulis G. A. Values of quadratic forms at primitive integral points. // Invent. Math. 98 (1989), No. 2, pp. 405−424.

5. Dal’bo F., Starkov A. N. On classification of limit points of infinitely generated Schottky groups // J. of Dyn. and Contr. Sys., vol. 6, No. 4, 2000, pp. 561−578.

6. Dal’bo F., Starkov A. N. On noncompact minimal sets of the geodesic flow // J. of Dyn. and Contr. Sys., vol. 8, No. 1, 2002, pp. 47-G4.

7. Dal’bo F., Starkov A. N. Correction to: «On classification of limit points of infinitely generated Schottky groups» // J. of Dyn. and Contr. Sys., готовится к печати.

8. Dal’bo F., Starkov A. N. Correction to: «On noncompact minimal sets of the geodesic flow» // J. of Dyn. and Contr. Sys., готовится к печати.

9. Feres R., Каток A. Ergodic Theory and Dynamics of G-spaces, Handbook of dynamical systems, Elsevier Science, 2002.

10. Ghys E. Dynamique des flots unipotents sur les espaces homogenes // Sem. Bourbaki, vol. 1991/92. Asterisque No. 20G, (1992), Exp. No. 747, 3, pp. 93−13G.

11. Gottschalk YV. H., Hedlund G. A. Topological dynamics. N.Y.: AMS Col. Pub., Vol. 36. AMS, Providence, R. I., 1955.

12. HEDLUND G. A. Fuchsian groups and transitive horocycles // Duke Math. J., vol. 2, 1936, pp. 530−542.

13. Hector. G. Quelque example dc feuilletages especes rares. // Ann. Inst. Fourier, Grenoble vol. 26, No. 1, 1976, pp. 239−264.

14. Хелгасон С. Дифференциальная геометрия и симметрические пространства. М.: Мир, 1964.

15. Inaba Т. An example of a flow on a non-compact surface without minimal set // Erg. Th. and Dyn. Sys., vol. 19, No. 1, 1999, pp. 31−33.

16. Каток С. Б. Фуксовы группы. М.:" Факториал Пресс", 2002.

17. Кириллов А. А. Элементы теории представлений. М.: Наука, 1978.

18. Корнфельд И. П., Синай Я. Г., Фомин С. В. Эргодиче-ская теория. М.: Наука, 1980.

19. Куликов M. С. Метрические свойства Т-иидуцированных действий // Рукопись депонирована в ВИНИТИ от 23.09.2003, № 1720-В2003.

20. Куликов М. С. Группы типа Шоттки и минимальные множества орициклического и геодезического потоков // Математический Сборник., т. 195, вып. 1, 2004, с. 37−68.

21. Kulikov М. S., Starkov А. N. 'Minimal sets of the geodesic and horocycle flows'// Journal of Dynamical and Control Systems, Vol. 10 (2004), No. 1, pp. 129−130.