В день рождения Алана Тьюринга — о его гениальных открытиях и прогнозах

23 июня 1912 года родился Алан Тьюринг — гениальный математик, заложивший основы программирования и нейросетей, а также лишивший Третий рейх секретной военной связи в годы Второй мировой. В интервью RT научный сотрудник Музея криптографии Егор Ефремов объяснил, как именно Тьюрингу и его коллегам из британского Блетчли-парка удалось разгадать германский шифр. По словам специалиста, Тьюринг с самого начала был нацелен на создание универсального устройства, способного вскрывать абсолютно разные шифры. По этому же принципу была устроена и знаменитая машина Тьюринга — умозрительный логический аппарат, который лёг в основу всех современных компьютеров. Алан Тьюринг ещё в 1950-х размышлял о том, каким будет машинный интеллект, и создал тест для проверки его способностей».

— 23 июня 1912 года родился Алан Тьюринг, математик и логик, взломавший германский военный шифр и приблизивший таким образом поражение рейха, по мнению ряда историков. Как часто вообще появляются математики сопоставимого таланта и масштаба?

— Это в основном происходит в переходные периоды истории, в условиях технологических скачков и научных революций. То есть великие математики появляются, когда они наиболее востребованны, когда решаемые ими задачи становятся значимыми.

В начале XX века активно развивались телекоммуникационные технологии — телефон, телеграф, радиосвязь, измерительные приборы и т. д. Параллельно с технической революцией происходила и научная: в физике сенсацией стала общая и специальная теории относительности Эйнштейна (1921), а в математике — теорема неполноты Гёделя (1931), с работы над которой и начался карьерный взлёт Тьюринга.

Сложные инженерные решения требовали теоретической базы. Один из величайших математиков XX века Клод Шеннон соединил инженерный и теоретический подходы в своей теории информации, ставшей основой цифровой революции. В Советском Союзе в 1930-е таким «революционером» стал Владимир Котельников. А Андрей Колмогоров развил теорию информации, дополняя её.

— Свою машину — умозрительный вычислительный алгоритм — Тьюринг придумал и сформулировал ещё в юности. Объясните, пожалуйста, что она представляет из себя, какие возможности Тьюринг открыл для математиков, ведь механические вычислительные машины конструировались и до него.

— В 1936 году, 24-летним магистрантом, Тьюринг написал статью, озаглавленную «О вычислимых числах, с приложением к проблеме разрешимости» (On Computable Numbers, with an Ap­plication to the Entscheidungsproblem). По мнению некоторых учёных, это важнейшая в истории математики работа.

В ней Тьюринг исследовал проблему разрешения — задачу из области оснований математики, сформулированную Давидом Гильбертом в 1928 году. Для доказательства своего решения он использовал умозрительное устройство, которое сейчас известно как машина Тьюринга. Учёный доказал математически, что «универсальная математическая машина» сможет выполнить любое вычисление, если представить задачу как алгоритм.

Здесь нужно пояснить, что многие практические изобретения на самом деле опережают их теоретическое осмысление и математический аппарат для расчёта оптимальных параметров. Так, использовать реле как логические элементы начали в лаборатории Белла ещё в 1910-х годах, а показать, что с помощью реле и переключателей можно реализовать любые операции булевой алгебры, Клоду Шеннону удалось только в 1936 году. Это в итоге дало начало принципам работы современных процессоров. Электромагнетизм был открыт Фарадеем в 1831 году, а фундаментальные уравнения сформулировал Максвелл только в 1860-х.

То же самое касается и машины Тьюринга — она не являлась реальным аппаратом, а была абстрактной моделью простейшего универсального устройства, способного выполнять алгоритмы. Вычислительные конструкции того времени — механические и электромеханические — были примитивными, не универсальными и часто создавались для конкретных задач.

Если машину Тьюринга реализовать на практике, она будет не самой быстрой и не самой удобной для использования, но зато её механизм легко понять, проанализировать и просчитать. При этом далеко не все вычислительные устройства обладают свойством полноты — то есть могут совершить все те операции, с которыми справится машина Тьюринга. С её помощью оценивают сложность алгоритма и вычислимость — возможно ли в принципе его выполнить или нет.

Машина Тьюринга состоит из частей — ленты (устройства памяти) и управляющего устройства, способного считывать информацию с ленты и записывать на неё новую информацию. То, как именно ведёт себя управляющее устройство, определяется алгоритмом. Это простейшая умозрительная модель компьютера. Машина Тьюринга стала основой для современной дискретной математики. Появились такие области, как теория вычисления и теория сложности вычислений.

— Хотелось бы остановиться и на работе Тьюринга по взлому «Энигмы». Вы согласны с тем, что взлом германского шифра повлиял на ход Второй мировой войны?

— Здесь важно упомянуть, что Тьюринг был не единственным и даже не первым математиком, работавшим над взломом «Энигмы». Первых успехов в этой области ещё в 1930-х годах добились сотрудники польского Бюро шифров Мариан Реевский, Ежи Ружицкий и Генрик Зыгальский, которые не только провели реверс-инжиниринг (воссоздали аппарат. — RT) «Энигмы», но и создали первые электромеханические устройства для её взлома — «Циклометр» и «Бомбу». В 1939 году, незадолго до оккупации Польши, они передали материалы французской и британской разведке и бежали из страны.

На основе польских разработок Алан Тьюринг и Гордон Уэлчман создали новую, гораздо более сложную и мощную британскую «Бомбу», производство которой позже освоили и в США.

За время войны разработали около 200 «Бомб» Тьюринга — Уэлчмана в Британии и ещё 120 — в США. Поистине индустриальный масштаб, рассчитанный на взлом разных типов «Энигмы», а также других систем шифров.

Это было бы невозможно без глубокого сотрудничества с другими службами разведки, армии, флота и авиации и станциями прослушки на разных концах земного шара, от Арктики до Новой Зеландии. Работа сыграла решающую роль в победе союзников на Западном фронте. Дело было не столько во взломе одной «Энигмы», сколько в сложнейшей системе распределения и анализа разведывательных данных, которую удалось при этом сохранить в секрете на долгие годы и после окончания войны. Ещё сильнее взлом «Энигмы» повлиял на военное дело после войны — успех Блетчли-парка (главное шифровальное подразделение Великобритании. — RT) показал на практике, что информация является самым ценным ресурсом в военном деле.

— В чём заключалась основная сложность расшифровки и как Тьюринг нашёл нужное решение?

— Важнейшей заслугой лично Тьюринга в области взлома «Энигмы», пожалуй, можно назвать его стремление сделать более универсальные устройства, которые можно было бы переделывать для разных стратегий криптоанализа. Если «Бомба» поляков была рассчитана на одну задачу — взлом первых шести символов сообщения, в которых в начале войны зашифровывали разовый ключ сообщения, то «Бомбе Тьюринга» можно было «скормить» материал произвольной длины.

Тьюринг предложил собрать словарь из самых часто встречающихся слов и выражений, которые в Блетчли-парке называли cribs — шпаргалки. Например, каждый день с утра рассылался прогноз погоды. Поэтому можно было предположить, что в одном из первых сообщений будет слово «погода». Из-за особенностей конструкции (рефлектора) «Энигма» не могла зашифровать букву саму в себя. То есть буква А никогда не могла превратиться в саму себя. Поэтому, если «протянуть» шпаргалку параллельно с перехваченным текстом и найти место, где ни одна буква не совпадёт, мы можем предположить, что в этом месте и есть искомое слово.

После того как сотрудники нашли такое место в перехваченных сообщениях, они программировали «Бомбу» с помощью переподключения проводов внутри устройства таким образом, чтобы она перебирала все возможные стартовые настройки «Энигмы» и искала такие, при которых предположительный исходный текст превращался бы в перехваченное зашифрованное сообщение. Так узнавали ключ шифрования на целый день.

Тьюринга очень раздражала необходимость физически изменять конфигурацию «Бомбы» для каждой новой настройки «Энигмы» и необходимость создавать новые версии машины всегда, когда немцы вносили улучшения в конструкцию «Энигмы». Он мечтал о таком вычислительном устройстве, в котором алгоритм не был бы частью конструкции, а вводился бы в память устройства вместе с данными — что в конечном счёте было реализовано в архитектуре фон Неймана, на которой строятся все современные компьютеры.

— Какие важные работы были ещё у Тьюринга, о которых широкая общественность, возможно, не знает? И которые не освещались в кинематографе?

— В области криптографии и криптоанализа, помимо «Энигмы», Тьюринг работал и над взломом других немецких шифровальных систем, в частности Lorenz SZ-40, которая отличалась от «Энигмы» тем, что зашифровывала двоичный пятибитный код букв. Тьюринг разработал одну из техник взлома шифровальной машины Lorenz SZ-40 и пригласил Томми Флауэрса, который создал первый программируемый цифровой электронный компьютер Colossus для взлома этой машины. Однако сам Тьюринг не принимал участия в разработке машины напрямую. Также он участвовал в разработке телефонной шифровальной техники Delilah и консультировал разработчиков SIGSALY — первого использованного на практике цифрового телефонного шифратора.

Алан Тьюринг совершил множество открытий не только в области вычислительной техники, но и фундаментальной математики, в частности в теории групп. В послевоенный период он работал над одним из первых в мире компьютеров, разработал систему программирования для Манчестерского Mark I и первую в мире инструкцию по программированию компьютера. Вместе с Кристофером Стрейчи Тьюринг стал первым, кто использовал ЭВМ не по назначению, а для развлечения и «несерьёзных задач» — вместе они «научили» компьютер воспроизводить музыку и написали шуточный генератор любовных писем.

Также после войны Тьюринг занялся вычислительной биологией и совершил в этой области настоящую революцию. Учёный задался вопросом, как с помощью простых биохимических механизмов рождаются сложные структуры — например, птичьи перья, волосяные фолликулы, паттерны окраски животных. И для описания этих механизмов он использовал свои наработки из области математики. Многие его модели, построенные ручкой на бумаге, смогли подтвердить с помощью современных компьютеров только в 2020-х.

— Тьюринг размышлял о возможности создания искусственного интеллекта в своей работе «Может ли машина мыслить?». Он писал, что через полвека машины смогут «играть в имитацию» так успешно, что человек с 70%-ной вероятностью не сможет понять, что перед ним машина. Эти прогнозы сбылись — то есть возможность создания современного ИИ была ясна учёному уже тогда. Многие ли современники Тьюринга разделяли его мнение?

— Тьюринг не дожил всего два года до ключевого для теории искусственного интеллекта события — Дармутского семинара, в котором участвовали Джон Маккарти — автор термина «искусственный интеллект», Клод Шеннон (один из создателей современной теории информации), Марвин Мински, Рэй Соломонов и другие ключевые для раннего периода развития ИИ исследователи.

Тем не менее Тьюринг переписывался и встречался со многими современниками, среди которых были и Клод Шеннон, и Джон фон Нейман, то есть те, без кого ни современный ИИ, ни компьютеры не появились бы. Далеко не все современники принимали новаторские идеи Тьюринга, однако он был не одинок в своей мечте о «мыслящих машинах». 1950-е стали временем крайне оптимистичных прогнозов и фантазий о мыслящих машинах, от научно-фантастических произведений Айзека Азимова до реальных проектов по машинному переводу в Джорджтаунском эксперименте 1954 года или цифровизации советской экономики Алексея Китова (1959).

При этом сам Тьюринг был достаточно осторожен в своих прогнозах и писал, что его мечта заключается не в том, чтобы машина справлялась с очень сложными задачами и заменила таким образом человека, а в том, чтобы она решала очень много глупых задач — то есть освободила бы человека для сложного творческого труда, разгрузив его в рутинных задачах. В этом плане современный популярный генеративный ИИ как будто бы идёт вразрез с видением Тьюринга — вместо того чтобы освободить человека от рутины для выполнения продуктивных творческих задач, он берёт на себя не только рутину, но и творчество — труд вдохновляющий и приятный.

— В той же работе Тьюринг описывал, как примерно может развиваться процесс создания такой умной машины. Он считал, что сделать «железо» (прогресс в инженерном деле) не будет очень сложно, а основная проблема лежит в сфере программирования. Что в действительности позволило создать мощный ИИ в наше время, прогресс в какой именно области?

— Первые практические работы в области искусственных нейросетей начались в конце 1950—1960-х: среди разработчиков того периода можно выделить Франка Розенблатта (США), Алексея Ивахненко и Валентина Лапу (СССР), Шуничи Амари (Япония), однако разработки зашли в тупик из-за колоссальных вычислительных мощностей, необходимых для свёрточных нейросетей. На долгие годы исследования были заброшены — этот период называют «зимой искусственного интеллекта».

В 1980-х последовала новая волна интереса, которая так же быстро упёрлась в потолок доступных в то время вычислительных мощностей. Если пытаться выделить веху, ставшую поворотной для нового лета искусственного интеллекта, которое мы наблюдаем сейчас, то, наверное, можно назвать нейросеть AlexNet Алекса Крижевского, Ильи Суцкевера и Джеффри Хинтона в 2012 году, которая показала перспективность использования графических процессоров в области искусственных нейросетей.

Важно понимать, что современный генеративный искусственный интеллект не повторяет работу мозга, а только отталкивается от «метафоры» нейронов — он далеко ушёл от искусственных нейросетей, с которыми пытались работать в 1960—1980-х. Во многом ИИ всё ещё носит экспериментальный характер в том смысле, что законы, по которым он работает, не в полной мере изучены и описаны. Именно с этим связана некоторая непредсказуемость и ненадёжность современного ИИ, который с лёгкостью справляется со сложнейшими задачами, а затем терпит поражение в простых логических загадках.

— Всем известен тест Тьюринга. Если человек не сможет понять, что ведёт диалог с машиной, это будет означать, что машина научилась «мыслить» подобно человеку. В своей работе «Вычислительные машины и разум» Тьюринг опровергал аргументы противников этой идеи. Есть ли среди его доводов такие, которые действительно подтвердились со временем?

— Тест Тьюринга не является надёжной метрикой для определения качества искусственного интеллекта, а, скорее, заставляет задуматься о том, что делает человека человеком.

Тьюринг рассматривал свою иллюстрацию с игрой в имитацию как социальный, а не вычислительный феномен. Интеллект, с его точки зрения, был эмоциональной концепцией, и восприятие чего-то как интеллектуального Тьюринг связывал лишь с нашими собственными представлениями и предрассудками. Не случайно в качестве иллюстрации к тесту он избрал именно игру в имитацию, в которой играющему нужно было угадать, женщина за ширмой или мужчина, — основываясь на предрассудках эпохи, которые Тьюринг так драматично ощутил на себе.

И действительно, первый чат-бот, который успешно прошёл классический тест Тьюринга (бот «Женя Густман» в 2014 году), сделал это не потому, что был наиболее совершенным из участников теста, а потому, что убедительно имитировал плохо знающего английский язык подростка и это заставляло судей делать скидку на возраст и языковой барьер.

Для Тьюринга то, что может вызвать у нас ощущение интеллекта, — уже интеллектуальное. Однако главные подтвердившиеся положения этой статьи касаются не столько машинного мышления, сколько машинного обучения: в частности, Тьюринг выдвигает идею важности случайности в процессе машинного обучения, которое в современных системах начинается со случайного шума.

Он также рассматривает пример освоения языка машиной как ребёнком, а не через набор жёстко зафиксированных правил — именно так работают современные нейросети.

— Сегодня нейросети успешно проходят тест Тьюринга, однако мы всё равно не спешим приравнять их к человеку. Почему?

— Самое главное отличие современного генеративного ИИ от человека в том, что человек обладает embodied cognition, воплощённым сознанием, то есть обладает определённой физической точкой зрения, воплощённой в конкретном теле. С его помощью каждый человек взаимодействует с миром, познаёт и осмысляет его, и это одновременно ограничивает и обогащает человеческий опыт, делает уникальным. Кроме того, человек учится всю жизнь, а не только в ограниченный период так называемой тренировки перед запуском. Пока что современные нейросети не умеют обучаться на лету.

— Подводя итоги, что значат работы Алана Тьюринга для нас? Стали бы возможны повсеместная цифровизация и появление ИИ без его открытий?

— Алан Тьюринг был одним из важнейших участников первого, теоретического этапа цифровой революции, хотя, к сожалению, не дожил до главных результатов своей работы. Тьюринг оставил важный след не только в математике и информатике, но и в культурном поле, изменив то, как мы воспринимаем «мыслящие машины». Кроме того, именно Тьюринг (вместе с Кристофером Стрейчи) стал первым, кто понял, что компьютеры — не просто инструменты в руках учёного исключительно для серьёзных задач, но что с ними можно играть и развлекаться. А ещё Тьюринг — автор первого в мире агрегата для генерации компьютерной музыки.