К 1952 году мои главные ученики, закончившие аспирантуру в университете и защитившие там диссертации, а именно: Мищенко, Гамкрелидзе и Болтянский, стали уже сотрудниками Стекловского института, Болтянский с обязанностями моего помощника.
Годом или двумя раньше руководство института в лице зам. директора М. В. Келдыша и партийная организация стали настойчиво рекомендовать мне не ограничивать свою научную деятельность топологией, а заняться также прикладными задачами, а именно теми самыми, которыми я занимался с Андроновым, т.е. теорией колебаний и теорией регулирования. Я был склонен сделать это и сам, но всё откладывал. Здесь меня подтолкнул Е. Ф. Мищенко, который настойчиво стал просить начать работу уже в 1952 году.
Мы организовали в Стекловском институте семинар под моим руководством по теории колебаний и теории регулирования. Но сперва совершенно не знали, что же нам делать? Поэтому вначале мы просто стали изучать книгу «Теория колебаний» Андронова, Витта и Хайкина.
Математическая часть книги не представляла для нас интереса, так как это были обыкновенные дифференциальные уравнения, которые мы достаточно хорошо знали. Мы стали изучать по этой книге работу различных физических приборов. Изучение работы приборов осуществлялось при помощи описания их обыкновенными дифференциальными уравнениями и исследования этих уравнений. Соответствующие уравнения представляли собой математическую идеализацию прибора. В некоторых случаях возможны были различные идеализации. От удачного выбора идеализации зависел успех исследования. Из этого вытекало, что наша работа не должна была заключаться в рассмотрении и решении уже готовых уравнений, а должна была включать изучение самих приборов и составление уравнений. Таким образом, нам пришлось познакомиться с такими физическими понятиями, как ёмкость, самоиндукция, взаимоиндукция, электрическая цепь, законы Кирхгофа, ламповый генератор и тому подобное. Также мы стали привлекать на наш семинар докладчиков-инженеров, прикладников, которые рассказывали нам о своих задачах, но не формулировали их в математической форме, а излагали техническую постановку вопроса. На семинаре был заведён порядок, согласно которому чисто математические доклады не допускались. Всякий доклад должен был начинаться с описания прибора и вывода соответствующих ему уравнений и исследования этих уравнений. Этот порядок ввёл я и твёрдо его держался.
Таким способом мы ознакомились с очень большим количеством технических проблем и сумели выискать среди них те, которые приводят к интересным математическим задачам, доступным нашему изучению. На этом пути мы пришли к трём важным математическим проблемам, имеющим реальное прикладное значение. Увлечённые новой проблематикой, мы скоро полностью забросили топологию.
Расскажу теперь подробнее о тех трёх главных математических проблемах, которые привлекли наше внимание.
1 . Электронный прибор конструируется обычно из ряда деталей: ёмкость, самоиндукция, взаимоиндукция и тому подобное, которые имеют определённые числовые характеристики. Но кроме этих деталей, входящих в прибор по замыслу конструктора, в нём возникают не предусмотренные конструктором паразитные детали. Так, например, короткие проводники дают дополнительное малое сопротивление. Близко расположенные детали могут давать ёмкость, также малую, паразитную. Так как числовые параметры, характеризующие эти паразитные детали, малы, то при составлении уравнений их обычно заменяют нулями.
Оказывается, однако, что в некоторых приборах эти малые паразитные параметры стоят коэффициентами при высших производных. Заменяя их нулями, мы снижаем порядок уравнений, грубо говоря, заменяем некоторые дифференциальные уравнения обыкновенными уравнениями, которые могут оказаться неразрешимыми относительно переменных, так что систему уравнений невозможно привести к нормальной форме. Из-за этого возникают трудности при решении такой системы уравнений и необходимость при изучении прибора дополнить полученную систему уравнений некоторыми физическими гипотезами. Если же при составлении уравнений учитывать малые величины, входящие в уравнения, то получается система уравнений с малым параметром при производных. Такие системы уравнений стали объектом нашего изучения в первую очередь. Этой задачей мы занимались сначала с Е. Ф. Мищенко, а потом к ней примкнул и ряд других математиков. Здесь было получено много важных и интересных математических результатов[1].
2 . Как-то в Стекловский институт пришёл специалист по самолётам и сформулировал нам следующую интересную задачу. Он сказал: «Если один самолёт преследует другой, то лётчик обычно умеет это делать. Но нам хотелось бы иметь математическую теорию, описывающую преследование одного самолёта другим самолётом». Такая теория преследования и убегания была впоследствии нами построена, хотя не для самолётов, а для более простых объектов, и составила математическую теорию дифференциальных игр[2].
Игровой эта задача является потому, что поведение каждого из объектов, как преследующего, так и преследуемого, заранее неизвестно. В каждом самолёте, сидит пилот, который, скажем, в каждый момент времени может изменить его поведение по своему усмотрению. Дифференциальные — потому что движение самолёта даётся дифференциальными уравнениями. Игровой элемент задачи на первых порах представлялся нам непреодолимой трудностью. Поэтому мы упростили задачу, сделав её неигровой. И пришли к третьей задаче, которой занялись раньше, чем второй.
3 . Мы стали рассматривать один управляемый объект вместо двух и считать, что вся наша задача заключается в том, чтобы перевести его из одного состояния в другое наиболее быстрым способом. Говоря в «самолётных» терминах, можно сказать: как управлять самолётом, чтобы, учитывая всю обстановку, перейти из одного пункта в другой наибыстрейшим образом. Это привело нас к математической теории оптимального управления, которая явилась главным достижением всей нашей деятельности[3].
Центральным результатом математической теории оптимального управления является так называемый принцип максимума, сформулированный мною, а затем доказанный в частном случае Р. В. Гамкрелидзе и в общем случае В. Г. Болтянским. Сама формулировка принципа максимума является серьёзным открытием и он носит моё имя, а именно, часто говорят и пишут: принцип максимума Понтрягина. К 1958 году принцип максимума был сформулирован и доказан, так что я мог доложить его на своём пленарном докладе на конгрессе в Эдинбурге 1958 года.
На конгресс в качестве пленарного докладчика я был первоначально приглашён как тополог. Но по моему предложению мой доклад по топологии был заменён докладом по теории оптимального управления.
Незадолго до конгресса Болтянский вдруг заявил мне, что принцип максимума был получен уже Вейерштрассом. Сперва я ему безусловно поверил, а всё же стал сам проверять, в чём дело. Проверка выяснила, что Болтянский либо ошибся, либо слукавил сознательно. Теперь я думаю, что было последнее. На семинаре, когда я опроверг его утверждение, он отнесся к этому очень спокойно и сказал: «Ну что же, значит я ошибся».
Но в дальнейшем в его поведении стало проглядывать что-то неладное. Сложилось впечатление, что он пытался сорвать мой пленарный доклад на международном конгрессе математиков в Эдинбурге в 1958 году. Вскоре разразился крупный скандал.
К 1961 году была написана и опубликована книжка «Математическая теория оптимальных процессов» четырёх авторов: Понтрягин, Болтянский, Гамкрелидзе и Мищенко[4]. Некоторое время спустя Болтянский сообщил мне как-то очень уж вскользь, что он написал сам книжку на ту же тему, и зачитал из неё кусочек предисловия, в котором благодарил нас всех за дружескую поддержку при написании книжки. Тогда я не стал подробно вникать в содержание его книги, но, когда дело дошло до второго издания, мне пришлось этим заняться. Выяснилось, что свой результат он называет своим, а наши результаты излагает, не называя авторов. При чтении книжки создавалось впечатление, что все результаты получены им.
Так как «Математическая теория оптимальных процессов» была книгой общей, то там не было разделения результатов по авторам.
Когда мы указали Болтянскому, что необходимы указания на авторство различных лиц, он заявил, что книга уже идёт в набор и изменения внести невозможно. Он внесёт их в третье издание. В ответ на это я заявил, что в предисловии ко второму изданию нашей общей книги я напишу всё подробно, кто что сделал. И выполнил это намерение. Сопротивление Болтянского было упорное.
Получив корректуру предисловия нашей общей книжки, мы с Е. Ф. Мищенко стали внимательно читать и обнаружили, что страница, где содержались точные данные о том, кто какую часть работы выполнил, отсутствует. Я сейчас же позвонил в издательство, и мне тут же прислали другую корректуру, в которой эта страница присутствовала. Это привело меня к убеждению, что страница была пропущена преднамеренно и что в этом деле участвовал Болтянский.
Тогда я обратился к директору издательства и заявил ему, что книга Болтянского является плагиатом. В ответ директор сказал мне, что он приостановит печатание книги, если я напишу письменное заявление с изложением фактов. Это я сделал, и книжку изъяли из печатания. По нашему требованию он внёс туда чёткие ссылки на результаты, полученные другими авторами, а именно: одна глава называлась «Результаты Гамкрелидзе», а другая — «Принцип максимума Понтрягина»[5].
Это событие имело место в конце 60-х годов и толкнуло меня на то, чтобы вникнуть поближе в работу издательства. Мною была организована группа по наблюдению за изданием математических книг главной редакцией физико-математической литературы. Распоряжение о создании этой группы было подписано Президентом М. В. Келдышем в 1970 году. Переговоры об организации этой группы я вёл сперва с Л. И. Седовым, председателем этой секции РИСО. Он не реагировал положительно на моё предложение. Тогда я обратился к более высокому начальству — вице-президенту, председателю РИСО М. Д. Миллионщикову, который поддержал меня.
По рекомендации Келдыша мы составили с Седовым письменное соглашение о правах и обязанностях моей группы. Оформление официального документа, который должен был подписать Келдыш, было поручено учёному секретарю РИСО Лихтенштейну.
Зная повадки Лихтенштейна, я ознакомился с документом, составленным им, до его подписания Келдышем и обнаружил, что роль моей группы полностью обесценена в той формулировке, которую дал Лихтенштейн, искажая наше соглашение с Седовым. Я сказал об этом Миллионщикову и попросил его внести соответствующие исправления. Так и было сделано. Исправленный документ был подписан Келдышем.
Группа наша под моим председательством начала работать в 1970 году и продолжает работать до сих пор, внося, как мне кажется, полезный вклад в работу издательства. Позже по образцу этой группы были организованы группы по физике и по механике при том же издательстве.