12 мая от коронавирусной инфекции скончался математик Эрнест Винберг. Ему было 82 года. Практически всю свою жизнь Винберг проработал на кафедре высшей алгебры механико-математического факультета МГУ. Его научный кругозор был очень широк — фактически, он был лидером сразу трех научных школ: по теории инвариантов, по алгебрам Ли и по кристаллографическим группам отражений. У Винберга десятки учеников, и они занимаются настолько разными вещами, что зачастую с трудом понимают работы друг друга. Ученый создал отдельное научное направление: изучение кристаллографических групп отражений (групп Кокстера) в пространствах Лобачевского. Мы попросили математиков Виктора Прасолова и Вадима Бугаенко рассказать нам о работах Винберга в этой области.
В 30-е годы XX века геометр Гарольд Кокстер разработал теорию групп отражений в евклидовых пространствах и на сферах. Такие группы могут быть получены как группы, порожденные отражениями в гранях многогранника любой размерности с двугранными углами вида π/n. Эти многогранники получили название многогранников Кокстера. Образы многогранника Кокстера при последовательном отражении в своих гранях заполняют все пространство или сферу, подобно узору в калейдоскопе.
Кокстер в 1934 году получил исчерпывающую классификацию таких многогранников (а тем самым и групп Кокстера) в евклидовых пространствах и на сферах любой размерности. Классификация основана на языке схем Кокстера – специального вида графов, позволяющих описывать многогранники Кокстера.
Винберг обобщил и развил эту теорию на случай пространств Лобачевского. В 1967 году он дал точную формулировку задачи. Несмотря на то, что пространство Лобачевского является третьим видом пространства постоянной кривизны после евклидового и сферического, даже формулировка задачи в этом случае требует существенных уточнений.
В первую очередь, в пространстве Лобачевского осмысленной является задача классификации многогранников Кокстера конечного объема – соответствующие им группы называются кристаллографическими.
В свою очередь, многогранники конечного объема делятся на два класса – компактные и некомпактные. Последний случай означает, что некоторые вершины многогранника лежат на абсолюте (на бесконечности).
Также среди всех групп Кокстера отдельно выделяются так называемые арифметические: их можно представить, как подгруппы отражений в группе автоморфизмов некоторой целочисленной гиперболической квадратичной формы. Таким образом, задача по классификации многогранников Кокстера разбивается уже на четыре: для компактных и некомпактных типов многогранника, а также для арифметических и неарифметических групп.
В 1968 году Винберг был одним из подписантов «Письма девяносто девяти» в защиту математика Александра Есенина-Вольпина, которого за диссидентскую деятельность принудительно отправили в психиатрическую больницу. Это послужило причиной притеснений Винберга со стороны руководства мехмата вплоть до начала перестройки.
Ученому не давали читать поточные лекции, в 1971 году была отклонена его докторская диссертация, которую он защитил со второй попытки в 1984 году, по новым результатам. В 1983 году Винберг был приглашённым докладчиком на XXI Международном конгрессе математиков в Варшаве, однако принять в нём участие не смог, так как имел невыездной статус.
В той же фундаментальной статье 1967 года Винберг модифицировал язык схем Кокстера, приспособив его для случая в пространстве Лобачевского. Кокстеровская схема многогранника дает возможность определить его комбинаторное строение. Винберг доказал критерий арифметичности кристаллографической группы в терминах кокстеровских схем.
А в 1972 году он предложил алгоритм для нахождения фундаментальной области подгруппы отражений в дискретной группе движений пространства Лобачевского. Применение этого алгоритма к группам автоморфизмов целочисленных гиперболических квадратичных форм стало мощным инструментом для нахождения примеров алгебраических кристаллографических групп отражений.
Через девять лет после этого, в 1981 году, Эрнест Борисович получил неожиданный результат: в пространствах Лобачевского большой размерности многогранники Кокстера отсутствуют. Он доказал два утверждения. Первое — в пространстве Лобачевского размерности ≥ 30 не существует многогранников Кокстера компактного типа. Второе – в пространстве Лобачевского размерности ≥ 30 не существует арифметических многогранников Кокстера некомпактного типа. Эти два результата были получены совершенно различными методами, и совпадение оценок видится случайностью.
Оставался открытым вопрос о неарифметическом некомпактном случае. Ответ на него получил в 1986 году Михаил Прохоров, используя метод Винберга и результаты Аскольда Хованского о комбинаторном строении выпуклых многогранников. Он доказал, что в пространстве Лобачевского размерности ≥ 996 не существует неарифметических многогранников Кокстера некомпактного типа.
Одновременно велась работа по нахождению примеров кристаллографических групп отражений. До работ Винберга такие группы были известны только в размерностях не выше 5.
В 1972 году Винберг со своей ученицей Иветтой Каплинской нашли примеры арифметических групп некомпактного типа во всех пространствах Лобачевского размерности ≤ 19. Рекордный пример для этого случая был найден в 1987 году Ричардом Борчердсом в размерности 20. Примеры арифметических групп компактного типа в пространствах Лобачевского размерностей 6, 7 и 8 были найдены в 1988 году учеником Винберга, Вадимом Бугаенко. Примеры неарифметических групп некомпактного типа были найдены в 1986 году еще одним учеником Винберга, Олегом Рузмановым, во всех размерностях ≤ 10, а в 2014 году – уже самим Винбергом во всех размерностях ≤ 12, а также 14 и 18.
Теория, над которой Винберг работал более полувека, по-прежнему хранит множество нерешенных задач.