Некоторые теоремы жесткости в анализе и геометрии

В диссертации установлены теоремы жесткости для С1-гладких решений V: С —у Мт дифференциальных соотношений вида где К — подмножество пространства Ешхп вещественных т х п-матриц. Также в диссертации получен критерий однозначной определенности областей в евклидовых пространствах метрикой на границе, индуцированной внутренней метрикой области.

§ 1 Общая характеристика результатов работы.

Анализ требований гладкости в классических теоремах нередко служит плодотворным источником идей для современной математики, порождая подчас магистральные направления ее развития. Приведем два ярких примера.

Согласно классической теореме Лиувилля, если /: —^ Мп является конформным отображением класса С3 области Г2 с Мп, то / представляет собой сужение на О, некоторого мёбиусова преобразования. Стремление максимально ослабить требования гладкости в этой теореме привело Ю. Г. Решетняка к следующему замечательному результату (см. [36], [38]): всякое отображение принадлежащее соболевскому классу И^1ос (П, Мп) и удовлетворяющее дифференциальному соотношению является либо постоянным отображением, либо сужением на О, некоторого мёбиусова отображения. Здесь символом И/(х) обозначается обобщенный дифференциал, а символом 50(п), как и принято, обозначается множество ортогональных матриц с определителем 1, соответственно символом М+50(п) обозначено множество матриц вида, А А, где, А > О, Л Е 50(п).

Ву ек в Г2,.

1.1).

Df{x) е ж+5,0(тг) для почти всех (п.в.) х е о,.

1.2).

Отметим, что условия гладкости в теореме Решетняка были еще более ослаблены Т. Иванцом и Г. Мартином в статье [57], где они для случая четных размерностей п = 21 доказали справедливость процитированного результата в предположении /? И^1ос (Г2, Мп). (Данный порядок интегрирования является точным, при р < п/2 в работе [57] предъявлен контрпример непостоянного 1Ур1ос (Г2, Мп)-решения соотношения (1.2), которое не является мёбиусовым.) Конечно, такое усиление потребовало привлечения новых методов, таких, как теория Ходжа для дифференциальных форм с интегрируемыми коэффициентами, которая была развита в работе [53].

Ю. Г. Решетняк получил также глубокие результаты об устойчивости в теореме Лиувилля, более точно, об устойчивости класса конформных (мё-биусовых) отображений в классе отображений с ограниченным искажением [38]. Класс этих отображений, являющихся неоднолистным аналогом квазиконформных отображений, также был введен Ю. Г. Решетняком, который установил и их основные нетривиальные свойства, такие как открытость, изолированность и т. д., см. [36]. Отображения с ограниченным искажением быстро стали чрезвычайно популярным объектом исследования не только отечественных, но и зарубежных математиков (назвавших такие отображения квазирегулярными, см., например, монографию [75]). В свою очередь, методы теории отображений с ограниченным искажением нашли многочисленные приложения в геометрической теории функций, теории нелинейных уравнений с частными производными, механике сплошной среды и пр. (см., например, монографию [58]). Наиболее сильным и красивым достижением в теории отображений с ограниченным искажением за последние два десятилетия, является, по-видимому, результат К. Астала [45], [46], [49] об искажении площадей плоскими квазиконформными отображениями, с помощью которого был решен ряд долго стоящих проблем (см., например, [47]). В последние годы стала развиваться также теория отображений с конечным искажением (см., например, [59], [48]), которая берет начало от красивого результата С. К. Водопьянова и В. М. Гольдштейна [9] (см. также [11]) о непрерывности и монотонности таких отображений. Этими же авторами установлена глубокая связь между квазиконформными отображениями и изоморфизмами соболевских пространств (см. [11]).

Стоит сказать, что техника Ю. Г. Решеняка по исследованию собственно устойчивости в теореме Лиувилля, в отличие от других методов теории отображений с ограниченным искажением, медленнее «осваивается» западными учеными, вероятно, ввиду высокой нетривиальности. Лишь сравнительно недавно стали появляться на Западе статьи на эту тему (см., например,.

55]). Впрочем, следует упомянуть о ранних работах Ф. Джона [60]—[62] по устойчивости изометрических преобразований. Однако несомненное лидерство в исследованиях по теории устойчивости конформных отображений, построенной в основном работах М. А. Лаврентьева, П. П. Белинского, Ю. Г. Ре-шентняка (библиографию см. в [38]), принадлежит отечественной школе. Отметим тонкие результаты В. И. Семенова [40]-[41] получившего явные оценки устойчивости, Н. С. Даирбекова [13]—[14], доказавшего для отображений с ограниченным искажением аналог теоремы Хартогса и исследовавшего его на устойчивость. Особо следует отметить многочисленные работы А. П. Копыло-ва (см., например, монографию [20], а также последующие работы [21]-[25]), который впервые предложил общую концепцию в изучении феномена устойчивости классов отображений, позволившую исследовать на устойчивость, помимо конформных, другие интересные для анализа и приложений классы отображений (таких, как многомерные голоморфные отображения, решения эллиптических систем д. у. с частными производными и др.). А. П. Копы-ловым предложена также концепция устойчивости для классов липшицевых отображений (согласующаяся с упомянутыми работами Ф. Джона), этой теме посвящен ряд работ его учеников (см., например, [16], [17]).

Тематика, о которой шла речь, имеет важные приложения не только в анализе, но и в геометрии. Так, квазиконформные отображения имеют глубокую связь с построенными Ю. Г. Решетняком изотермическими системами координат в двумерных пространствах Александрова ограниченной кривизны1 [37]. Из более современных работ, связывающих квазиконформный анализ и геометрию, отметим уже упомянутую статью [53], посвященную квазиконформным структурам на многообразиях.

Еще одним примером, когда изучение требований гладкости в классической теореме жесткости порождает целые направления в геометрии и в анализе, является следующая теорема (связанная с именами Д. Гильберта и С. Кон-Фоссена): Если /: —Мп+1 есть С2 -гладкое изометрическое погружение п-мерной сферы единичного радиуса, то множество /(5П) конгруэнтно Бп. (По поводу распространения этой теоремы на случай изометрических погружений класса С1, а см. работу Ю. Ф. Борисова [7].) Поскольку в определении изометрического погружения участвуют лишь первые производные, естественно было предположить, что процитированная теорема останется верной и для С1 -гладких отображений. Однако эта долго стоявшая гипотеза была опровергнута Дж. Нэшом [73] и Н. Кейпером [68], которые доказали, что для любого е > 0 существует С1-гладкое изометрическое вложение сферы 5П в х3а это открытие Ю. Г. Решетняк удостоился премии РАН им. Н. А. Лобачевского. шар радиуса е пространства Mn+1. Более точно, Дж. Нэш и Н. Кейпер установили, что всякое С1-гладкое локально L-липшицево погружение (вложение) /: V —>• Жк n-мерного риманова пространства Vcn.

Методы построения таких «патологических» погружений (вложений) были затем развиты М. Громовым [12], который назвал их «выпуклым интегрированием» (см. также [31]).

В последние десятилетия метод выпуклого интегрирования наиболее активно использовался в анализе для построения нетривиальных липшицевых решений v: с М. п —> дифференциальных соотношений вида.

Dv (x) Е К для п.в. х Е (1.3) где К — заданное компактное подмножество пространства Mmxn вещественных т х п матриц, a Q есть область в ]Rn. (Напомним, что в силу теоремы Степанова-Радемахера дифференциал Dv (x) произвольного липшицева отображения v: Г2 —М771 определен для почти всех всех х Е ?1.) Вместе с отысканием точных решений соотношения (1.3) важную роль играет нахождение так называемых аппроксимационных решений, т. е. последовательностей vu липшицевых функций таких, что sup IIDivlli^fi) < °°> dist (Dvv (x), K) —" 0 для п.в. х Е ?1. (1.4) v.

Будем говорить, что дифференциальное соотношение (1.3) имеет только тривиальные точные решения, если каждая липшицева функция v: Q Rm, удовлетворяющая (1.3), является аффинной. Аналогично будем говорить, что соотношение (1.3) имеет только тривиальные аппроксимационные решения, если для каждой последовательности липшицевых функций vv: Cl —> Mm, удовлетворяющих (1.4), найдется матрица, А Е К и подпоследовательность vv, такие, что Dv^ —> А п.в. в Г2. Сформулированные задачи являются интересными даже для конечных множеств К (так называемая проблема к-градиентов), причем их сложность и богатство вариантов быстро возрастает вместе с мощностью К.

Приведем несколько характерных примеров (их подробное обсуждение можно найти, например, в [70]).

1. Простейший случай — когда К состоит из двух элементов, К = {А, В}. Тогда если rank (A — В) > 2, то соотношение (1.3) имеет только тривиальные (аппроксимационные и точные) решения [50] (доказательство этого факта опирается на теорему Ю. Г. Решетняка [36] о слабой сходимости якобианов). Если же rank (A — В) = 1, то можно построить не аффинное точное решение v соотношения (1.3).

2. Пусть К = {Ai, А.2) и предположим, что гапк (Д-—Aj) > 2 при г ф j. Тогда соотношение (1.3) имеет только тривиальные (аппроксимационные и точные) решения [77] (доказательство существенно опирается на результаты Ю. Г. Решетняка [36] по теории отображений с ограниченным искажением).

3. Пусть К = {А, А2, A3, А4} и предположим, что гапк (А — Aj) > 2 при г ф j. Соотношение (1.3) снова имеет лишь тривиальные точные решения [52] (авторы [52] также довольно искусно применяют результаты Ю. Г. Решетняка [36]). Однако здесь уже могут быть нетривиальные аппроксимационные решения. В работе [80] установлено.

Предложение 1.1.1. Рассмотрим диагональные 2×2 матрицы, А = —A3 = diag (—1, —3), А2 = —А4 = diag (—3,1) и положим К = {Ai, А2, A3, А4}. Тогда существует удовлетворяющая (1.4) последовательность липшицевых отображений vu, таких, что vu 0 на Q.

Используя данную конфигурацию из четырех матриц (которая теперь носит название конфигурация Тартара), С. Мюллер и Вл. Шверак [71]—[72] построили неожиданный пример эллиптического уравнения со всюду нерегулярным решением. А именно, ими был доказан следующий результат.

ТЕОРЕМА 1.1.2. Существует гладкая строго квазивыпуклая2 функция (р: е2×2 4 1 с D2cp < const в М2 такая, что уравнение div DtpiVw) = 0 имеет слабое решение которое не является С1-гладким ни в каком открытом подмножестве О.

Этот результат был высоко оценен математическим сообществом: С. Мюллер и Вл. Шверак были председателями секции на Международном математическом конгрессе в Берлине в 1998 г., которая была посвящена развиваемой ими теории.

4. Проблема пяти градиентов. Используя метод выпуклого интегрирования и альтернативный подход, связанный с теоремой Бэра о категориях, Д. Прайс (D. Preiss) и Б. Кирхейм недавно доказали ([64, Глава 4], см. также [63]), что при n, m > 2 существует множество К = {А, А2, Аз, А*, Л5} С Mmxn, такое, что гапк (Д- — Aj) > 2 при i ф j, но в то же время соотношение (1.3) имеет нетривиальные (неаффинные) решения.

2Введение в теорию квазивыпуклых множеств и функций см., например, в [70].

5. Пусть К = SO (n) («проблема одного кольца», или «one-well problem»). Тогда соотношение (1.3) имеет лишь тривиальные (асимптотические и точные) решения — это легко выводится из результатов Ю. Г. Решетня-ка [36], [38]. к.

6. Пусть К = (J 50(2) Д-, det Д- > 0 («проблема к-колец»). Тогда, если г=1.

VJF7, G Е К rank (F — G) ф 1, то соотношение (1.3) имеет лишь тривиальные асимптотические и точные) решения [78]. Вопрос о том, верно ли аналогичк ное утверждение для К = У SO (n)Ai при размерности п > 3, является г=1 открытым даже в случае к = 2.

Более полный обзор результатов о липшицевых решениях соотношения (1.3) сделан в относительно недавней работе [65]. Из последних достижений в данной тематике, не вошедших в [65], упомянем красивые результаты, полученные венгерским математиком JI. Секельхиди с соавторами [66], [54] для случая размерностей п = т = 2. В частности, в работе [66] доказано, что rank-1 выпуклая оболочка множества значений градиента всякого липшицева отображения v: Q С М2 —> R2 является связным множеством (определение rank-1 выпуклой оболочки см., например, в [70]). При доказательстве результатов в работе [66] используются как классические результаты Ю. Г. Решетняка [36], так и новый элегантный метод разделяющих квазиконформных кривых, разработанный J1. Секельхиди.

В настоящей диссертации вопрос о решениях дифференциального соотношения (1.3) исследуется в классической постановке — для С1-гладких функций. Опишем, наконец, один из тех феноменов жесткости, которые изучается в данной работе. Известен классический результат, что если С2 -гладкая функция v = v (x, t), определенная в области Q С М2, удовлетворяет дифференциальному уравнению гамильтонова типа vt = Ж — С1-гладкая функция, то через каждую точку z Gfi проходит прямая линия (характеристика), на которой градиент Dv = const (см., например, [34, § 55]). Поскольку в уравнении (1.5) участвуют только первые производные функции v, естественно возникает вопрос, сохранится ли указанное свойство, если предполагать только лишь С1 -гладкость отображения v и, соответственно, лишь непрерывность функции.

Проблема 1. Пусть С1-гладкая функция V: о —>¦ м. области ?1 с ж2 обладает свойством где символом Int обозначена внутренность множества. Будет ли тогда выполнено следующее утверждение: существует не более чем счетное множество Е такое, что для каждой точки z G удовлетворяющей условию найдется прямая линия L Э z такая, что Dv = const на компоненте связности множества L ПО, содержащей точку z?

Отметим, что не более чем счетное исключительное множество Е появляется уже в С2 -гладком случае, поэтому такая формулировка естественна.) На примере процитированных выше результатов мы видим, как драматически может меняться ситуация с решениями дифференциальных соотношений при уменьшении гладкости. Поэтому интуитивно складывается ощущение, что ответ в Проблеме 1, вообще говоря, должен быть отрицательный. Это ощущение владело и западными специалистами. Приведем один характерный пример. В недавней работе [67] Я. Колар и Я. Кристенсен пытались доказать (усиливая результаты своих предшественников), что непостоянная С1 -гладкая функция v: R2 —>¦ Ж с компактным носителем обладает свойством Dv (M?) = С1 Int Dv (№?), где символом С1 обозначено замыкание множества. Это свойство, очевидно, является тривиальным следствием положительного ответа на вопрос в Проблеме 1. Но авторы [67] даже и не пытаются ставить такую проблему, а свой результат они доказывают только при дополнительных предположениях на модуль непрерывности градиента Dv (типа гельдерово-сти). Видимо, тут сказалось то обстоятельство, что Я. Кристенсен, работая в Оксфорде в тесном контакте с упомянутыми Дж. Боллом и Б. Кирхеймом, хорошо знал те осложнения, которые может приносить уменьшение гладкости на единицу. Упомянутое ощущение до некоторой степени довлело и над его чешским соавтором Я. Коларом, и над некоторыми другими чешскими математиками (например, на конференции 35th Winter School in Abstract Analysis 2007 в Лоте над Рохановым, Чехия, М. Зеленый (М. Zeleny) в личной беседе с автором настоящей диссертации поведал о бывшем у него убеждении, что для общего случая С1 -гладких функций результат Колара — Кристенсе-на неверен, и он некоторое время пытался даже построить соответствующий контрпример).

Int Dv (u) = 0,.

1.6).

Dv (z)? Е,.

1.7).

5. Пусть К — SO (n) («проблема одного кольца», или «one-well problem»). Тогда соотношение (1.3) имеет лишь тривиальные (асимптотические и точные) решения — это легко выводится из результатов Ю. Г. Решетня-ка [36], [38]. к.

6. Пусть К — [J SO (2)Ai, det Д- > 0 («проблема &—колец»). Тогда, если 1.

V.F, G G К rank (F — G) Ф 1, то соотношение (1.3) имеет лишь тривиальные асимптотические и точные) решения [78]. Вопрос о том, верно ли аналогичк ное утверждение для К = |J SO (n)Ai при размерности п > 3, является г=1 открытым даже в случае к = 2.

Более полный обзор результатов о липшицевых решениях соотношения (1.3) сделан в относительно недавней работе [65]. Из последних достижений в данной тематике, не вошедших в [65], упомянем красивые результаты, полученные венгерским математиком J1. Секельхиди с соавторами [66], [54] для случая размерностей п = т = 2. В частности, в работе [66] доказано, что rank-1 выпуклая оболочка множества значений градиента всякого липшицева отображения v: Q, С R2 —> К2 является связным множеством (определение rank-1 выпуклой оболочки см., например, в [70]). При доказательстве результатов в работе [66] используются как классические результаты Ю. Г. Решетняка [36], так и новый элегантный метод разделяющих квазиконформных кривых, разработанный JI. Секельхиди.

В настоящей диссертации вопрос о решениях дифференциального соотношения (1.3) исследуется в классической постановке — для С1-гладких функций. Опишем, наконец, один из тех феноменов жесткости, которые изучается в данной работе. Известен классический результат, что если С2 -гладкая функция v — v (x, t), определенная в области О с!2, удовлетворяет дифференциальному уравнению гамильтонова типа.

Щ =.

На примере приведенного результата Я. Колара и Я. Кристенсена видно, что решение Проблемы 1 помогает получить информацию о множестве значений градиента функции V. Возникает.

Проблема 2. Каким условиям должно удовлетворять множество К с Штхп, чтобы дифференциальное соотношение.

В диссертации установлено, что ответ в Проблеме 1 оказался все-таки положительным. Доказательству этого результата, одного из центральных в настоящей диссертации (см. Теорему 4.1.1), а также его многочисленным приложениям к исследованию Проблемы 2, посвящены главы 2−5. Опишем вкратце их содержание.

В главе 2 для С1-гладких функций двух переменных доказывается некоторый аналог теоремы Сарда, который является основным инструментом для последующих глав. Прежде чем приводить точную формулировку нашего результата, сделаем краткий исторический экскурс. Напомним, что в применении к скалярным функциям двух переменных классическая теорема Сарда [76] (см. также [44]) звучит следующим образом. теорема Сарда. Пусть V: ?1 —> ж. — С2-гладкая функция на области П с!2. Тогда справедливо равенство.

Здесь и в дальнейшем символом Zv обозначается множество критических точек функции v = т. е. Zv = {{x, t)? | vx (x, t) = vt (x, t) = 0}.

Как показал Уитни [81], условие С2-гладкости в данном результате опустить нельзя. А именно, Уитни построил С1 -гладкую функцию v: (0,1)2 —> Ж со следующим свойством: множество критических точек Zv содержит дугу, на которой v ф const.

Впоследствии примеры подобного рода строились и другими математикаминаиболее простую конструкцию, принадлежащую Гринбергу [56], мы приведем в конце главы 2.

Однако некоторые аналоги теоремы Сарда справедливы и для функций, не имеющих требуемой степени гладкости. Хотя равенство (1.9) тогда может уже и не выполняться, Дубовицким [15] были получены некоторые результаты о строении множеств уровня для случая пониженной гладкости (см. также [51]).

Dv (x) G К для всех х € О-имело нетривиальные С1-гладкие решения v: Q с к" —> ж7″ ?

1.8) measi^Zu) = 0.

1.9).

Другим направлением исследований было обобщение теоремы Сарда для пространств Гель дера, Соболева, а также для пространств функций, удовлетворяющих условию Липшица (см., например, [51]).

В главе 2 настоящей работы для теоремы Сарда установлен аналог иного рода. Основным результатом этой главы является следующая теорема. Пусть v: il —> m — С1-гладкая функция на области о с м2. Предположим, что3.

О? ClintDv{9).

Тогда выполнено равенство (1−9).

Результаты главы 2 опубликованы в работе [82].

В третьей главе найдены необходимые и достаточные условия на непрерывную кривую, чтобы она была множеством значений градиента вещественной С1 -гладкой функции двух переменных. Доказано, что у этой кривой имеются касательные в некотором слабом смысле, и направление этих слабых касательных меняется как функция ограниченной вариации (см. ниже Теорему 3.3.2). В то же время, такая кривая не обязательно будет регулярной в классическом смысле: у нее может не существовать касательных (в обычном смысле) ни в одной точке (Теорема 3.1.6). В качестве приложения указанных результатов получены необходимые и достаточные условия на непрерывную функцию (р с тем, чтобы уравнение (1.5) имело нетривиальные (т.е. неаффинные) С1-гладкие решения. В последнем уравнении производные vt, vx лишь непрерывны и, как может показаться сначала, это соотношение не может дать ничего больше естественного свойства непрерывности функции (р. Оказалось, однако, что функция ip должна быть локально липшицевой на открытом множестве полной меры, а ее производная на этом множестве должна иметь локально ограниченную вариацию (Теорема 3.2.1). В частности, ср должна быть дважды (sic!) дифференцируема почти всюду.

Основным методом для решения указанных задач в главе 3 является, помимо упомянутой теоремы сардовского типа, теория изэнтропических решений дифференциальных уравнений, введенных в [33]. Определение изентро-пического решения можно получить из классического (данного академиком С. Н. Кружковым [27]) определения энтропийного решения, если в последнем знак неравенства заменить знаком равенства (см. также [89]).

Результаты главы 3 получены в неразрывном соавторстве с Е. Ю. Пановым и опубликованы в работах [88], [89], [90], [91].

3Здесь и в дальнейшем значение градиента (0,0) 6 R2 мы обозначаем упрощенным символом 0.

В главе 4 исследована более сложная проблема: случай произвольной С1-гладкой функции 1-: О с I2 4 1, у которой внутренность множества значений градиента пуста. Этот случай был сведен к рассмотренному в предыдущей главе (см. Теоремы 4.1.4, 4.1.5). При этом получен положительный ответ в Проблеме 1 (Теорема 4.1.1). В качестве одного из следствий, доказана справедливость утверждения процитированной выше теоремы Я. Колара и Я. Кристенсена для произвольной С1-гладкой функции у двух переменных, носитель которой является непустым компактным множеством (без дополнительных предположений на модуль непрерывности Иу). Результаты главы 3 опубликованы в работах [83], [84].

Наконец, в главе 5 получены аналоги предыдущих результатов для С1-гладких отображений и: П с Кп М. т, множество значений градиента которых одномерно. В частности, найдены необходимые и достаточные условия на кривую в Ктхп, чтобы она была множеством значений градиента С1-гладкой функции у: Г2 с Мп —> Мт. Показано, что у этой кривой имеются касательные в слабом смысле, эти касательные являются гапк-1-матрицами, и направление этих касательных есть функция ограниченной вариации (Теорема 5.4.2). Также доказано, что в этом случае для функции у справедливо утверждение теоремы Сарда (Теорема 5.5.1), а множества уровня градиентного отображения Иу: О —> Мпгхп суть гиперплоскости (см. Теорему 5.1.1). Результаты главы 5 являются дальнейшим развитием идей, опубликованных в работах [82]—[84], [91].

Перечисленные выше результаты дают некоторую информацию об аналитических и геометрических свойствах множеств значений градиента С1-гладких отображений. Геометрические свойства множеств значений градиента всюду дифференцируемых (негладких) отображений изучались ранее, например, в работах [69],[26], [17].

В последней главе 6 настоящей диссертации исследуется иной феномен жесткости — геометрического характера. Тематика, которой посвящена указанная глава, хотя и является сравнительно молодой (она отдаленно восходит к процитированному результату Нэша — Кейпера), но непосредственно связана также с классическими задачами, имеющими двухсотлетнюю историю. Отправной точкой можно считать известную теорему Коши об однозначной определенности выпуклого многогранника своей разверткой. В дальнейшем проблемами однозначной определенности выпуклых поверхностей внутренней метрикой занимались Минковский, Гильберт, Вейль, Бляшке, Кон-Фоссен и другие известные математики. Но наибольших успехов в этом направлении добились академик А. Д. Александров и его ученики. Упомянем ставшую уже классической теорему А. В. Погорелова об однозначной определенности ограниченной замкнутой выпуклой поверхности в М3 ее внутренней метрикой (см., например, [35]). Этот результат был обобщен на случай выпуклых гиперповерхностей в Мп Е. П. Сенькиным [42]. Наиболее впечатляющий результат — об устойчивости в теореме А. В. Погорелова — был получен Ю. А. Волковым [10], нашедшим явную оценку деформации выпуклой поверхности в зависимости от изменения ее внутренней метрики.

В связи с успешным развитием теории однозначной определенности выпуклых поверхностей возник естественный вопрос: можно ли получить подобные результаты для невыпуклых поверхностей? Отдельные результаты для случая повышенной гладкости были получены (см., например, работы [1], [74], где получены теоремы жесткости для некоторого класса поверхностей в предположениях аналитичности и С4-гладкости соответственно). Однако в целом в свете процитированных результатов Нэша — Кейпера ответ на этот вопрос представлялся весьма пессимистичным. В самом деле, согласно указанным результатам всякая С1-гладкая поверхность в Кп не является однозначно определенной (в классе всех таких поверхностей) своей внутренней метрикой.

Адекватный (и неожиданно простой!) подход к проблеме однозначной определенности для невыпуклого случая был найден А. П. Копыловым [18] (см. также обзорную статью [19]). В подходе А. П. Копылова задача (в несколько упрощенной формулировке) ставится следующим образом.

Проблема 3. Пусть и иУ — две области в Мп (п > 2), внутренние метрики которых продолжаются по непрерывности в замыкания этих областей. Предположим, что границы этих областей изометричны в относительных метриках, т. е. метриках, индуцируемых на границах внутренними метриками областей. Выяснить, являются ли сами области евклидово изометричными (т.е. конгруэнтными).

Данная проблема включает в себя упомянутую задачу об однозначной определенности выпуклых поверхностей как частный случай. В самом деле, допустим, что дополнения рассматриваемых областей V и V ограничены, выпуклы и имеют непустую внутренность. Тогда очевидно, что границы 311, ЬУ суть замкнутые выпуклые поверхности, а определенная только что относительная метрика совпадает с внутренней метрикой этих поверхностей. Тем самым вопрос в Проблеме 3 в данном частном случае эквивалентен класси-. ческой задаче.

Прежде чем двинуться дальше, поясним на простейших примерах, какие новые эффекты могут возникать при решении Проблемы 3. Дело в том, что относительная метрика на границе dU определяется как продолжение по непрерывности внутренней метрики области U. Соответственно, относительная метрика на границе dU зависит не только и не столько от самой границы dU, сколько от области U.

Возьмем единичную (п — 1)-мерную сферу Sn-i в пространстве Мп. Что будет относительной метрикой на этой сфере? Ответить на этот вопрос. невозможно, так как относительная метрика на сфере зависит от соответствующей области U со свойством dU = Sn! (1.10).

Имеется ровно две возможности, описанные в следующих двух примерах.

Пример 1.1.3. Пусть область U = Шп В (0,1) есть дополнение к замыканию единичного шара 5(0,1) С Ш1. Очевидно, что формула (1.10) выполнена. Тогда относительная метрика на сфере Sni совпадает с ее внутренней метрикой, и однозначная определенность в Проблеме 3 имеется при п > 2 (это доказано в [3] с использованием теорем Погорелова — Сенькина) и отсутствует при 71 = 2.

Поясним последнее утверждение (касающееся случая п = 2). Итак, пусть U есть дополнение к замыканию единичного круга. В качестве V возьмем бесконечную область, граница которой — эллипс длиной 27 г. Относительная метрика на dU, dV совпадает с внутренней метрикой этих кривых (см. выше), и, так как эти кривые имеют одну и ту же длину 2тг, то они изометричны в относительных метриках.

Пример 1.1.4. Пусть теперь U = -0(0,1). Очевидно, что формула (1.10) снова выполнена. Тогда относительная метрика на сфере Snбудет, конечно, совпадать с евклидовой метрикой. В этом случае однозначная определенность в Проблеме 3 будет при всех п >2 [18].

В условиях Примера 1.1.4 допустим, что п > 3. Возьмем С1-изгибание сферы i (о существовании которого говорится в теореме Нэша — Кейпера), и обозначим его Поверхность будет границей некоторой ограниченной области V. Поверхности Snи S’nl изометричны в своих внутренних метриках. Но они не изометричны в относительных метриках! Относительная метрика на S^-i может быть устроена довольно сложно, но она, во всяком случае, не будет тождественно совпадать с евклидовой метрикой, поскольку область V невыпукла.

В предложенном А. П. Копыловым подходе возникает целый ряд новых и очень интересных задач, в исследовании которых в разное время принимали участие А. Д. Александров, А. В. Кузьминых, В. А. Александров, М. К. Боровикова и др. (см., например, обзорную статью [19]). Оказалось, что однозначная определенность областей относительными метриками их границ имеет место не только в классическом случае, когда их дополнения — ограниченные выпуклые множества, но, например, и в следующих случаях: область и строго выпуклая, область V любая (А. Д. Александров, см. [2]) — область и выпуклая и отличная от полупространства, область V любая [28]- области и и V ограничены и обладают кусочно гладкими границами [2]- области и и V обладают непустыми ограниченными дополнениями и С1-гладкими границами, причем п > 3 [3] и др.

Однозначная определенность в классе областей с аналитическими границами изучалась в [4]. Интересные результаты по однозначной определенности областей условием локальной изометричности их границ в относительных метриках были получено в работах [28], [8], [6]. Новым и многообещающим является предложенный в [19] подход к однозначной определенности конформного типа.

Однако во всех перечисленных результатах, в соответствии с формулировкой Проблемы 3, предполагалось, что внутренние метрики областей V и V продолжаются по непрерывности в замыкания этих областей. Возникает следующий вопрос: нельзя ли отказаться от этого предположения и получить результаты об однозначной определенности, справедливые для всех областей, без каких бы то ни было априорных предположений о регулярности?

Хотя далеко каждая область удовлетворяет предположениям о регулярности в формулировке Проблемы 3, но зато абсолютно любая область [/ с 1″ допускает продолжение по непрерывности своей внутренней метрики на свою хаусдорфову границу4. Возникает следующая модификация исходной Проблемы 3.

Проблема 4. Пусть II иУ —две области в Мп (п > 2). Предположим, что ха-усдорфовы границы этих областей изометричны в относительных метриках. Выяснить, являются ли евклидово изометричными сами области.

По данной проблеме был опубликован результат В. А. Александрова [5] для случая, когда границы областей ?7, V суть полиэдры, а также результат А. П. Копылова для ситуации, когда п — 2 и область V — ограниченная и.

4Получить которую можно, пополнив область С/ по Хаусдорфу и удалив из полученного пополнения точки самой области. выпуклая, V — любая [19]. В личном сообщении автору А. П. Копылов также сообщил решение этой задачи для случая, когда область U строго выпукла, V — любая.

В обсуждаемой главе 6 настоящей работы получено полное решение Проблемы 4 (см. Теорему 6.2.1). Полученный результат, конечно, содержит как частный случай все предыдущие результаты по решению Проблемы 3. Выражаясь несколько огрубленно, доказанная в диссертации Теорема 6.2.1 сводит задачу об однозначной определенности областей относительными метриками их границ к к упомянутой вначале классической задаче об однозначной определенности выпуклых поверхностей. Можно добавить также, что Теорема 6.2.1, в некотором роде, является синтезом примеров 1.1.3−1.1.4. Она показывает, что если границы областей U, V изометричны в относительных метриках, то часть границы U изгибается как выпуклая поверхность (в классе выпуклых поверхностейэта часть границы есть dFjj в обозначениях Теоремы 6.2.1), а часть границы сохраняет жесткость (это границы подобластей Ui в обозначениях Теоремы 6.2.1).

По результатам главы 6 опубликованы статьи [85], [87].

Настоящая работа разбита на 6 глав (включая введение) и список литературы из 91 наименования.

Результаты работы докладывались в Оксфорде (в январе 2007 в Математическом Институте на семинаре Applied Analysis and Mechanics, руководимом профессором Джоном Боллом, председателем Международного математического союза 2002;2006 гг.), в Лозанне (Швейцария, XX Rolf Nevanlinna Colloquium, с 8 по 13 августа 2005), в Мадриде (Испания, International Congress of Mathematicians, August 22−31, 2006), в Бендлево (Польша, на конференциях Self-similar solutions in nonlinear PDEs, с 4 по 9 сентября 2005 г.- Analysis and Partial Differential Equations Conference, 19−23 June 2006; Geometrie Analysis and Nonlinear PDEs Conference, 3−10 June 2007), в Лоте над Рохановым (Чехия, на конференциях 35th Winter School in Abstract Analysis 2007, from January 13 to January 20, 2007; и на 36th Winter School in Abstract Analysis 2007, from January 12 to January 19, 2008), в Слупске (Польша, в Институте математике на семинаре кафедры анализа и топологии, в сентябре 2005 и в июне 2006), в Новосибирске (на Общеинститутском семинаре Института математики СО РАНна семинаре отдела геометрии pi анализа Института математики СО РАНна Международной школе-конференции по Анализу и Геометрии, посвященной 75-летию академика Юрия Григорьевича Решетняка, с 23 августа по 2 сентября 2004 г.- на Международной конференции «Математика в современном мире», посвященной 50-летию Института математики СО РАН,.

17−23 сентября 2007).

Я благодарен своему научному консультанту профессору А. П. Копыло-ву. Его вклад в моё развитие как математика, а также постоянная поддержка неоценимы. Я особо признателен академику Ю. Г. Решетняку, пробудившему во мне интерес к современному анализу. Также я особо благодарен профессору Е. Ю. Панову, который предложил концепцию изентропических решений дифференциальных уравнений, явившуюся красивым и эффективным инструментом для решения включенных в диссертацию задач. Я благодарен профессорам Я. Колару и Я. Кристенсену, чья статья послужила толчком для получения результатов главы 4. Я благодарен профессору В. А. Александрову, проторившему своими исследованиями нелегкий путь в тогда еще только зарождавшейся теории однозначной определенности областей. Я также особо благодарен за поддержку С. К. Водопьянову, чья энергия и удивительная научная работоспособность являются для меня труднодостижимым идеалом. Наконец, благодарю всех остальных своих старших коллег, которые в разное время делились со мною своими соображениями по поводу задач, включенных в диссертацию: Н. С. Даирбекова, М. А. Сычева, А. А. Егорова, А. В. Грешнова, Н. Н. Романовского.

Работа выполнена при поддержке РФФИ (гранты 02−01−1 009-а, 05−01−482-а, 08−01−531-а), грантов Президента РФ для поддержки молодых кандидатов наук (МК-3778.2004.1, МК-5366.2008.1) и ведущих научных школ РФ (НШ-311.2003.1, НШ-8526.2006.1, НШ-5682.2008.1), гранта Фонда содействия отечественной науке для молодых кандидатов, Междисциплинарного интеграционного проекта СО РАН (№ 117, 2006) и грантов Лаврентьевского конкурса молодежных проектов СО РАН. Часть работы была выполнена во время моего визита в Международный Банаховский Центр в Бендлево (Польша), и я благодарен всем сотрудникам этого центра, и, особенно, академику ПАН профессору Б. Боярскому за гостеприимство.