Мое поступление в университет в силу некоторого почти анекдотического случая, произошло так, что я приступил к занятиям лишь с середины ноября[2]. Поэтому первый курс у меня целиком ушел на учебную работу — необходимо было в оставшееся время подготовить и сдать значительный комплекс предметов.

Моя научная работа началась при переходе с первого курса на второй — для подготовки к занятиям студенческого научного кружка, которые профессор Г. М. Фихтенгольц намеревался начать со второго курса, мне была предложена тема — условия интегрируемости функции по Риману. В связи с этим я изучил текст разделов, относящихся к функциям вещественного переменного, по чуть ли не единственному в то время учебнику анализа — переведенному курсу Валле-Пуссена — и по классической книге Лебега об интеграле. При этом, не ограничиваясь предметом доклада, я поставил задачу об условиях совпадения верхнего риманова интеграла, нижнего риманова интеграла с лебеговым. Пришлось дать определение полунепрерывной функции, некоторый комплекс теорем о них, а условие состояло в том, что функция должна быть почти везде полунепрерывной, соответственно, сверху и снизу.

Эти результаты, естественно, оказались известными так же, как и попутно полученный результат — характеристика функций, которые могут быть колебаниями функций одной переменной — Osc f(x). Это любая полунепрерывная сверху функция. Оказалось, что эту теорему пару лет назад доказал Е. М. Ливенсон, соавтор ряда моих дальнейших работ. Совсем короткое ее доказательство и наш совместный доклад на эту тему должны были войти в бюллетень студенческого научного кружка, который, однако, так и не был издан.

Студенческий кружок после одного-двух заседаний распался, но в это время Григорий Михайлович Фихтенгольц начал семинар по дескриптивной теории функций для третьего и четвертого курсов, который я стал посещать. Участниками семинара были Д. К. Фаддеев, И. П. Натансон, С. Л. Соболев, С. Г. Михлин и др.

Первым предметом семинара были классификации функций Бэра и Юнга. К ним относятся мои первые работы, и я хочу указать на их источник.

Известно, что, кроме рассмотрения одной производной в точке дифференцируемости, в каждой точке недифференцируемости можно рассматривать четыре производные — обобщенные производные, по ленинградской терминологии, или производные числа — nombres derives. Я поставил перед собой такую общую проблему: дать дескриптивную характеристику четверки функций, которые могут быть обобщенными производными непрерывной функции. Было известно, что это функции Юнга второго класса, и естественное условие, что незадевающие углы могут встречаться в виде исключения, то есть не более, чем в счетном числе точек (теорема Юнгов), должно быть соблюдено. Однако анализ этой проблемы потребовал определенной подготовки. В частности, так как верхняя и нижняя производные являются пределами соответствующих отношений, то возникла проблема, какие функции Юнга второго класса могут быть верхним и нижним пределами последовательности непрерывных функций.

Эта задача была поставлена для функций любых классов, включая трансфинитные, и было получено ее решение. Когда работа была подготовлена к печати, пришел последний, XI том Fundamenta Mathematicae, где были помещены работы Вячеслава Васильевича Степанова и его ученика Ю. А. Гольдовского [1], [2], в которых эти вопросы для функций Юнга второго класса были решены.

В связи с этим при окончательной подготовке к печати работу пришлось переделать, дать необходимые ссылки и ограничиться только публикацией теорем о функциях любых классов с некоторыми дополнительными коррективами и специализациями для функций второго класса, что обобщало и покрывало названные результаты московских авторов. Эта работа была опубликована в XIII томе Fundamenta Mathematicae [3] и доложена на семинаре проф. Г. М. Фихтенгольца.

Что касается общей проблемы, то часть результатов мною была получена тогда же, в 1928-1929 гг. Я предполагал даже докладывать о них на Всесоюзном математическом съезде в Харькове, но два моих доклада уже стояли в программе и, будучи студентом, я счел неэтичным включать еще и третий доклад ( http://libserv.mi.ras.ru/ft/ftbook.asp?id=2). Работа была доведена до своей окончательной формы, в которой она была опубликована, позднее — она появилась в 1932 г. в Математическом сборнике [4]. Поставленная проблема не была решена полностью, были получены лишь частичные результаты, но все же достаточно содержательные и тонкие по методам доказательства. В частности, доказывалось, что для совершенных множеств меры нуль четверка функций, удовлетворяющих естественному условию Юнгов, является четверкой производных чисел Дини, то есть существует такая непрерывная функция на этом множестве, числа Дини которой совпадают с указанными функциями. Несколько изолированно стоит § 4 этой работы, где простыми методами доказывается, что на любом совершенном множестве меры нуль две функции Юнга соответствующих типов являются верхней и нижней двусторонними производными непрерывной функции. К сожалению, опубликованная целиком только на русском языке, она осталась, видимо, неизвестной за рубежом, и в то время, как относительно дескриптивной характеристики множеств недифференцируемости функций имеется сравнительно большое число работ, эта работа не получила продолжения, и на нее, вплоть до настоящего времени, имеются лишь единичные ссылки.

К этому же циклу примыкает несколько других небольших работ. Отмечу работу об универсальных функциях, содержащую решение двух проблем, поставленных проф. Фихтенгольцем, именно, существует ли для функций юнговского типа и для функций бэровского типа, конечных и бесконечных, универсальная функция того же типа. Функция двух переменных называется универсальной для данного класса, если при специализации одной из переменных получаются все функции этого класса. Для классов Юнга универсальную функцию удалось построить, а для классификации Бэра было доказано, что это невозможно ([5]-[7]).

Я хочу отметить эту работу, во-первых, потому, что о ней я делал свой первый доклад на Ленинградском физико-математическом обществе, председателем которого был чл.-корр. АН СССР Николай Максимович Гюнтер. Дело в том, что ее публикация предполагалась в журнале Общества и, согласно имевшейся традиции, я должен был предварительно выступить с докладом. Это было весной 1929 г. Любопытно, что на этом же заседании вторым был доклад С. Л. Соболева «Замечание по поводу работ Н. Н. Салтыкова, относящихся к уравнениям первого порядка с частными производными».

Во-вторых, эта работа позднее нашла косвенное отражение в моих прикладных работах по математическим машинам. Именно, в «функциональном преобразователе», изобретение которого относится примерно к 1948 г., была сделана специальная коммутационная доска, которая так и называлась — «универсальная функция». На этой доске одновременно помещалось десять функций (синус, логарифм, тангенс, экспоненциальная и др.), и специализация параметра позволяла получать нужную в данный момент функцию, так что сам термин «универсальная функция» здесь было вполне уместно употребить. Конечно, эти работы конкретно не связаны, но идейно близки.

Наконец, в-третьих, в этой работе было использовано абстрактное понятие аналитической операции над множествами, примыкающее к следующему циклу работ.

Упомяну вскользь, что после агитационной поездки Павла Сергеевича Александрова в Ленинград в 1929 г. с циклом лекций по топологии у нас началась некоторая работа в этом направлении. Андрей Андреевич Марков открыл топологический кружок, где, по преимуществу, изучалась теоретико-множественная топология. Топологией я так и не увлекся, но, участвуя в работе кружка, определенное представление о ней получил. Для меня важно, что с этого времени у меня началось знакомство и контакт с замечательным математиком А. А. Марковым (мл.), отличительной особенностью которого было умение оценить значимость новых направлений математики и стремление привлечь к ней внимание независимо от собственных научных интересов.