Двадцатые - начало тридцатых годов ознаменовались быстрым развитием новой отрасли математического анализа — функционального анализа. По­сле классических работ Д. Гильберта последовали фундаментальные иссле­дования Ф. Рисса (1918), С. Банаха (1922-1923). Было ясно, что эта область приобретает все большую популярность. Конечно, были и скептики, недооценивавшие ее значение, считавшие, что это просто пересказ на другом, более общем языке известных фактов математического анализа.

Большое значение имело появление в 1927 г. книги Дж. фон Неймана «Математические основы квантовой механики»26, в которой функциональ­ный анализ (гильбертовы пространства и пр.) был с успехом применен для математического оформления новых сложных физических теорий, появив­шихся незадолго до этого, идей П. Дирака и др. П. Дирак уже в 1933 г. получил Нобелевскую премию за свои работы по квантовой механике.

Мы в Ленинграде мало знали о работах по функциональному анализу. В. И. Смирнов, обладавший исключительной эрудицией и быстрой ориен­тировкой в новых областях, первым оценил значение этого направления. Читая лекции у физиков, он, в отличие от многих других математиков, был и в курсе новейших работ по теоретической физике.

В 1933 г. в университете был объявлен большой научный семинар по функциональному анализу, в котором приняли участие не только работав­шие в области теории функций, но и другие активные математики Ленин­града того времени. Помнится, что на первом заседании были Н. М. Гюн­тер, Р. О. Кузьмин, С. Г. Михлин. Наряду с титулованными (А. А. Марков (мл.), В. А. Тартаковский, С. А. Янчевский) в семинаре принял участие и ряд молодых математиков, аспирантов и студентов (Б. 3. Вулих, М. К. Гапу­рин. С. М. Лозинский). Небезынтересно взглянуть на фотографию одного из первых заседании семинара.

Работа семинара сначала носила чисто учебный характер — ряд ввод­ных лекций прочел В. И. Смирнов, несколько докладов было сделано мной. Систематически изучалась книга С. Банаха «Теория линейных операций», докладывались отдельные крупные мемуары. Несколько заседаний было посвящено теории Фантаппиа. Для функционального анализа была ха­рактерна чрезвычайная разбросанность и широта — эта наука возникла из разнообразных задач — теории функций, математической физики, теории вероятностей и др. Естественно, что некоторые работы носили случайный характер и не получили дальнейшего развития.

Почти сразу начались и некоторые самостоятельные работы участников семинара, примыкавшие к известным направлениям. Так, проф. Г. М. Фихтенгольцем и мной была дана теорема об общей форме линейного функцио­нала в пространстве всех измеримых ограниченных функций, где использо­вался интеграл Радона. Попутно была решена непосредственно относяща­яся к функциональному анализу проблема мощности множества функционалов в этом пространстве, оказавшейся равной 22. Работа содержала и ряд других предложений, например, о слабой сходимости в этом простран­стве. Она была отправлена в Studia Mathematica и опубликована в пятом томе за 1935 г. и в ДАН [58, 59]. Впрочем, некоторые пункты этой работы варшавским специалистам были уже известны. На работу появился отклик Феликса Хаусдорфа, который вместо нашего довольно громоздкого транс­финитного построения в доказательстве теоремы о мощности множества функционалов предложил для леммы, на которую оно опиралось, гораздо более короткое доказательство всего в полторы страницы.

Следующая моя работа была посвящена проблеме распространения функционалов как характеристике пространства Гильберта [60]. Именно, в ней устанавливается некоторый класс функциональных пространств, в кото­рых, подобно Гильбертовым, можно распространять все функционалы с подпространства на всё пространство с сохранением аддитивности. Как было отмечено в рецензии в Zentralblatt, таких пространств, кроме Гиль­бертова, нет. Однако эту теорему можно обернуть и рассматривать таким образом, что тем самым установлено еще одно свойство, выделяющее про­странство Гильберта из класса всех нормированных пространств, как это делает С. С. Кутателадзе [61].

К функциональному анализу примыкали и вопросы, связанные с тео­рией обобщенных функций, развитые у нас С. Л. Соболевым, а позднее — школами Л. Шварца, И. М. Гельфанда. Я уже отмечал свой интерес к этой проблематике, которая мне казалась важной и в анализе и в функциональ­ном анализе, и сделал несколько работ в этом направлении. Мною были намечены некоторые отличные от названных подходы к этой проблеме и пути дальнейшей работы. В 1935 г. были опубликованы две заметки [62, 63] о методах расширения пространств Гильберта, общих и частных. Третья заметка, в которой я хотел это связать с приложениями к анализу, не была завершена и не опубликована. До настоящего времени я не знаю, насколько этот путь был реален и плодотворен29.

Дело в том, что как раз в это время меня привлекла другая тема, новый круг проблем. В какой-то мере в выборе тем играют роль и внешние обсто­ятельства. За несколько лет до этого Г. М. Фихтенгольц, И. П. Натансон и я наметили разработку ленинградского курса теории функций веществен­ной переменной. Я был отстающим, на мне лежало изложение дескриптив­ной теории. Начав эту работу в Теберде, в одном из популярных курортов Комиссии содействия ученым, я долго размышлял о том, как же ввести дескрипцию. Вводить ее как обычно для вещественных функций было в какой-то мере уже старомодно, а как это сделать с более общих позиций функционального анализа, было непонятно. Уже и из рассказа о моих ра­ботах видно, какую роль в дескриптивной теории играет упорядочение — но оно отсутствовало в известных функциональных пространствах.

Тогда и возникла идея обогащения аппарата функционального анализа — введения пространств, в которых определено отношение порядка. Мне показалось даже странным, что это очень существенное свойство большин­ства математических объектов до тех пор не получило отражения в функ­циональном анализе. Были построены полуупорядоченные пространства, в которых для некоторого достаточно богатого набора их элементов опреде­лено отношение порядка с известными свойствами.

Уже в Докладах АН за 1935 г. была опубликована моя заметка о ли­нейных полуупорядоченных пространствах [64]. Я даже думал о включе­нии дополнительного сообщения на предстоящей в сентябре топологической конференции в Москве, но, видимо, от купания в холодных горных озерах Теберды я довольно тяжело заболел. Хотя я и попал на саму конферен­цию31, но был не в силах подготовить выступление на соответствующем уровне. Несмотря на то, что я не был вполне здоров, эта тема меня на­столько увлекла, что в 1935-1936 гг. появилась целая серия моих заметок в ДАН и Comptes Rendus, посвященная этой новой теории. Мной было сде­лано и несколько докладов на семинаре по функциональному анализу.

Первая аксиоматика полуупорядоченных пространств выглядела очень громоздкой. Кажется, в ноябре 1935 г., когда удалось построить довольно простую и красивую аксиоматику [65], я выступил с докладом в Москов­ском математическом обществе. Андрей Николаевич Колмогоров рассказы­вал мне о своих впечатлениях о докладе — сначала те примеры, которые рассматривались, не показались ему интересными, но когда ему самому пришла в голову мысль, что как полуупорядоченное может рассматривать­ся пространство функций ограниченной вариации, считая положительной монотонно возрастающую функцию, он понял разнообразие этих объектов. Этот пример он, естественно, обнаружил еще до того, как я дошел до него в своем изложении32.

Теория полуупорядоченных пространств мне представлялась целым направлением в функциональном анализе, новым и перспективным. Я сам занимался ею в последующие годы и привлек к этой работе своих учеников — Б. 3. Вулиха, А. Г. Пинскера и др. Выяснилось, что эта проблематика стала интенсивно разрабатываться и на Западе, где этих вопросов касались рабо­ты Гаррета Биркгофа, X. Фрейденталя, Дж. фон Неймана. В Советском Союзе близкую к этому теорию пространств с конусами положительных элементов несколько позже развил М. Г. Крейн и его школа. Однако класс линейных полуупорядоченных пространств был, по-видимому, впервые вве­ден мною. В какой-то мере к этому подошел Ф. Рисе в своем докладе на Болонском конгрессе [66], но, по существу, общей теории таких пространств у него не было. Изучались пространства функционалов с такими свойства­ми. В вышедшей в 1940 г. книге Г. Биркгофа «Теория решеток» теория полуупорядоченных пространств связывается с моим именем и ей посвяще­на отдельная глава [67].

Мной был подготовлен ряд мемуаров, частично вышедших позднее, и уже в 1936 г. я имел возможность читать специальный курс «Функциональ­ный анализ на основе теории полуупорядоченных пространств». Одними из первых слушателей были мои будущие соавторы Б. 3. Вулих, А. Г. Пинскер, а также М. К. Гавурин, Н. А. Шанин и др. Часть результатов была изложена в мемуарах, часть только анонсирована в заметках, но было совершенно яс­но, что эта новая точка зрения, определяемая включением упорядочения в исследование объектов функционального анализа, значительно их обогаща­ет и разнообразит. Даже некоторые факты теории функций вещественной переменной тут выглядели по-новому, например, теорема Фреше, теорема Витали. Получались новые теоремы — не знаю, была ли ранее доказана такая теорема,

Одним из направлений, которое привлекло мое внимание, было аналитическое представление линейных операций, преобразующих одно пространство в другое. В данном случае выделялось три класса таких операций ввиду наличия двух видов сходимости в каждом полуупорядоченном про­странстве — о-сходимости и t-сходимости. Значительная часть этих работ была выполнена мной совместно с Б. 3. Вулихом [68]. Как известно, вопросы представления операций в банаховых пространствах были предметом первых работ И. М. Гельфанда [70], в которых он предложил свежие подходы и получил ряд тонких результатов. Мы с ним имели определенные контакты по этим вопросам, и наши разработки частично взаимопересекались. Глубокая теорема о расширении пространств, связанная с понятием дизъюнктности элементов, была получена А. Г. Пинскером [71]. Частично эта работа, хотя и в другой терминологии, смыкается с работами японских математиков, а также исследованиями группы М. Г. Крейна.

Представляют также интерес исследования функциональных уравнений в полуупорядоченных пространствах. Дело в том, что принцип сравнения, принцип мажорант, широко применяющийся в классическом анализе, не получил до того времени отражения в функциональном анализе. На языке полуупорядоченных пространств удалось достаточно содержательно и естественно сформулировать принцип мажорант, некоторые общие теоремы о мажорации. При этом потребовалось пойти еще на одно обобщение — наряду с обычными нормированными пространствами ввести в рассмотрение пространства, нормированные элементами полуупорядоченных пространств (например, для банаховых пространств — пространства - $B_k$ ​ ). Так как элементы полуупорядоченного пространства во многом очень близки к понятию числа по своим свойствам, они, так же как вещественные числа, могут использоваться в качестве нормы. Это дало общий и удобный прин­цип мажорации, который, в частности, я применил в некоторых задачах по численным методам, о которых говорилось выше, например, в теории бесконечных систем линейных уравнений и др. Здесь был источник получения новых результатов, относящихся к сходимости, оценкам приближенного решения и его характеристикам, получаемым с помощью мажорирующего уравнения. Эта работа была опубликована у нас [72], а также по предложе­нию Т. Карлемана, приезжавшего в 1938 г. в СССР, направлена в Acta Mathematica и опубликована там в 1939 г. [73], так что она оказалась до­вольно известной.

Мой курс, правда не очень хорошо оформленный (у меня была идея издания монографии по этим вопросам, но тогда мне не удалось ее осу­ществить), был представлен в виде рукописи на проходивший как раз в это время в Ленинграде (1937) конкурс работ молодых ученых, и ему бы­ла присуждена общая (по всем специальностям) первая премия. Годом позже проводился такой же Всесоюзный конкурс, и эта работа получила первую премию по математике наряду с работами С. Л. Соболева, А. Д. Александрова, Л. С. Понтрягина. В 1938 г. в зале Ленинградской филармо­нии состоялось торжественное заседание по итогам конкурса, где академик Л. А. Орбели вручил мне диплом и я сделал краткий доклад 36.