«Это обрушивает нашу цивилизацию»: Татьяна Черниговская, Людмила Петрановская и специалист Microsoft обсудили искусственный интеллект

На минувших выходных в СПбГУ прошел Реюнион — праздник универсантов всех лет и специальностей. В его рамках технологический евангелист Microsoft Дмитрий Сошников, доктор филологии и биологии Татьяна Черниговская и психолог Людмила Петрановская приняли участие в дискуссии «Интеллект: искусственный или настоящий». Мы записали самые интересные выдержки из их разговора. Дмитрий Сошников: Мы сейчас живем в интересное время, когда скорость изменений очень высока. Буквально за несколько лет мир может стать другим. Это напоминает начало XX века, когда в 1900 году все ездили на лошадях, а потом вдруг на улицах появились автомобили. Сейчас происходит цифровая трансформация, чтобы сделать процессы более эффективными и зачастую заменить человека программами. Типичный пример — компания «Макдоналдс». У них есть окошки «МакАвто» для обслуживания людей в машине. Уже лет 10 назад додумались сотрудника из окошка пересадить в колл-центр в Индии, потому что это дешевле. Клиент произносит заказ в микрофон, оператор набирает его, и еда готовится. Оказывается, сейчас можно пойти еще дальше, вообще избавиться от человека, компьютер справляется с такого рода задачами лучше. Получается, что опасность искусственного интеллекта не том, что он нас захватит, а в том, что он может лишить нас работы. По крайней мере, она станет другой. Нужно будет искать намного более творческие направления деятельности, чем сидеть в «Макдоналдсе» и распознавать речь. Хорошо это или плохо — это вопрос для обсуждения. Такие же примерно успехи сейчас в области распознавания изображения. Это задача крайне актуальная, потому что беспилотные автомобили должны понимать окружающий мир. И в 2015 году было показано, что зачастую компьютер воспринимает картинки не хуже человека. В целом нужно понимать, что искусственный интеллект — это обширное направление, существуют разные подходы. Когда эта область начала развиваться в середине XX века — это было про то, как человека может заменить компьютер. И чтобы это сделать, нужно изучить, как люди мыслят, и попытаться смоделировать этот процесс. А можно попробовать воспроизвести структуру мозга, обучить его и довести до нашего уровня. Примерно с 2012 года наступила эпоха нейросетевого подхода. Это произошло, потому что стало доступно много вычислительных мощностей и данных. В новом мире, где многим задачам компьютер может научиться сам, важную роль начинают играть данные. Если раньше ноу-хау мог развиваться в алгоритмах, то сейчас они достаточно похожи. Поэтому, конечно, крупные компании, в которых есть большие данные, имеют в этой гонке существенные преимущества. Но при этом как распределяется баланс сил: корпорации выпускают готовые строительные блоки, которыми можно воспользоваться. Например, задача — распознать на картинке человека. И любой не понимающий в ИИ человек может его использовать его в своем проекте. Это то, что мы называем демократизацией искусственного интеллекта. Никогда не было так просто решать такие сложные задачи. Есть, конечно, ряд нерешенных проблем, мы не знаем, будет ли такой бурный рост продолжаться, и что произойдет, если мы уткнемся в потолок, когда нам будет не хватать данных. За небольшое улучшение точности модели приходится расплачиваться многократным увеличением объема необходимой информации. Нейросеть все еще легко обмануть. Можно взять изображение кошечки, добавить невидимые человеку точки, и оно будет распознаваться как собака с вероятностью почти 100%. Или можно взять дорожный знак «стоп», наклеить на него в нескольких местах лейкопластырь, и машина, которая его видит и полагается на алгоритмы, будет вести себя совершенно по-другому. Самый серьезный вопрос заключается в том, что мы знаем, что у человека есть сложный мыслительный процесс в голове. Компьютеры же решают одну простую задачу, и мы не можем проследить, почему они приходят к тому или иному выводу. Если нейросеть скажет, что в соответствии с вашим диагнозом нужно делать ампутацию, но не уточнит, почему, то это не очень хороший ответ медицинской системы. Поэтому актуальная проблема — это попытаться смоделировать процессы рассуждения, потому что пока мы к этому особо не приблизились. Нейросеть все еще легко обмануть Татьяна Черниговская: Мне кажется, сложных вопросов много. Например, тема дискуссии «Интеллект: искусственный или настоящий»? Слово «настоящий» не совсем корректно, вероятно, его следовало бы заменить на «естественный». Но от этого нам легче не станет. Что такое интеллект? На этот вопрос существует масса вариантов ответа. От того, который измеряется идиотской системой IQ и подразумевает только навыки работы с определенными операциями и больше ничего, до таких сложно изучаемых вещей как интуиция, внезапные озарения. Это огромный спектр. Поэтому, если уж хулиганить, то я спрошу, какие есть основания считать, что естественный интеллект есть у того или иного человека? Я не хочу никого обижать, но известны примеры из истории, когда человек, который делает важнейшие открытия и определяет ход движения цивилизации, в бытовом смысле чуть ли не слабоумен. Мы находимся на пороге не только невероятных технологических скачков. Это переход в другую цивилизацию, и я вижу проблему антропологическую. Мы вообще в этом мире сможем жить? Разговоры о восстании машин опоздали, это уже случилось. У каждого в кармане или сумке находится понятное устройство. Мои статьи висят в неких облаках. Ну и совсем смелый вопрос: а мы не являемся просто совершенной программой? Какие у меня есть основания считать, что каждый из нас – не потрясающе, с изяществом и хитростью написанный алгоритм, который позволяет нам не подозревать об этом. У меня есть дома книга, которая называется «The minds best treat» — то есть лучшая уловка разума. Шутка заключается в том, что наш мозг прекрасно себя ведет. Он все делает сам, да еще и подает нам сигнал, мол, не волнуйся, это твое решение, все в порядке. Вы можете сказать, что это все сказки. А я хочу, чтобы мне кто-нибудь доказал, что это не так. Я не к тому, что мы уже киборги. Но часть нашей памяти, знаний находится во вне, в разных устройствах, мы вынесли ее из себя. Я хочу сказать, что меняются главные координаты. Мы не понимаем, где начало, а где конец, с кем мы имеем дело. Вы уверены, что Петя Сидоров, с которым вы общаетесь, это Петя Сидоров, что их не 986 с половиной тысяч, что это вообще люди? А какое у них время? Потому что одно дело, если он в Москве, другое – если он в Африке, а если он вообще в самолете летит? В общем, на ночь о таких вещах лучше не думать. Потому что они страшные. Я давно участвую в большом количестве серьезных дискуссий на эту тему. Буквально неделю назад мы с Константином Анохиным, крупнейшим нейрофизиологом и моим другом, сидели вдвоем на сцене на конференции в Москве. И там вопрос был поставлен так: «Будет ли сознание у искусственного интеллекта?». Это немножко поворот в бок. Мы боимся, что потеряем контроль над ситуацией, и эта железяка воспитает в себе «Я», то есть у нее появится эго. Это обрушивает нашу цивилизацию. Если у этой программы есть «Я», значит у нее есть ее задачи, ее цели, ее умения не меньше, чем у нас. И мы должны относиться к ней соответствующим образом. Например, мы не можем ее стереть. Это не то, что флешка — вынул, и все. Эти разговоры для детей о том, что мы всегда их сможем выключить, вызывают у меня смех. Не мы их выключим, а они нас, не забывайте, что они работают в скоростях и величинах, в которых люди не живут. Это наносекунды и нанометры. Это широко обсуждаемая в аналитической философии проблема зомби. Это не сказка, а мысленный эксперимент. Если перед вами стоит человек, который выглядит как вы, у него есть кожа, похожие сенсорные системы. Есть ли у нас надежда выяснить, кто из вас настоящий? Мой ответ — нет. Поэтому расслабляться не стоит. В течение пяти лет мы столкнемся с взрывоопасной ситуацией — я в этом уверена. Уже даже скучно говорить о том, что появятся миллионы людей, которым будет нечем заняться. И разговоры про то, что все они начнут заниматься творчеством — один будет играть на лютне, другой на гитаре, третий писать сонеты — это же анекдот, вы же понимаете, что ничего этого не будет. Меж тем, это реально, и намеки на это уже есть и в скандинавских странах, и во Франции. Не мы их выключим, а они нас, не забывайте, что они работают в скоростях и величинах, в которых люди не живут Людмила Петрановская: Каждый раз, когда я пытаюсь побояться искусственного интеллекта, я думаю, лишь бы естественного было в достатке. Его нам действительно часто не хватает. С одной стороны, когда понимаешь, что все эти перспективы реальны, хочется, как в моем любимом сериале «Галактика», взять автомат и с криком «Чертовы тостеры» начать бороться. С другой, мне кажется, что сейчас нужно подумать о том, о чем мы договорились долгое время не говорить. В начале эпохи Просвещения Кант разделил все на мир природы и мир свободы, и первый изучали, а второй – нет. Выяснилось, что появление искусственного интеллекта заставляет нас отвечать на вопросы, связанные с субъектностью, целеполаганием, ценностью, свободой воли, этических выборов. Тут есть очень разные картины: антиутопическая, как описывает Оруэлл – что все эти экраны будут не только смотреть, не замышляю ли я чего против вождя, они будут еще и считывать выражение лица, вычислять и передавать куда надо — правда ли ты любишь вождя или притворяешься? Но с чего мы взяли, что они между собой не перемкнутся и не скажут: «Давай не будем закладывать этих хороших людей, которые почти такие же умные, как мы». Я все-таки верю, что с какого-то момента разумности этика с ними будет неразрывна. Я допускаю, что в обозримом будущем, например, профессия сиделки будет более престижной, востребованной и хорошо оплачиваемой, чем разработчика. Потому что коды будет писать ящик с непонятно чем, а няню заменить на порядок сложнее. Да, искусственный интеллект не просмотрит, когда ребенок полезет в розетку, в чем-то будет более продуктивен. Но это будет машина, и когда ваш ребенок вырастет, он осознает, что его источник заботы, защиты, утешения никогда не любил его, он просто так запрограммирован. Что это будет значить для него? Я верю, что с какого-то момента разумности этика будет неразрывно связана с искусственным интеллектом Татьяна Черниговская: Вы, конечно, замечательные вещи говорили. Мы стоим не столько перед технологической бездной, сколько перед антропологической. На той конференции, о которой я говорила, Анохин заявил: «Мы должны изучать искусственный интеллект, чтобы не допустить появления в нем личности». Это совершенно новый поворот. Эта история выглядит намного более простой, чем на самом деле является. Говорят: «Мы сейчас посмотрим, как действует человеческий мозг, а потом сделаем». Да? Так кто это знает, как действует человеческий мозг? Людмила Петрановская: Мы даже не знаем, что такое множественная личность при некоторых психических расстройствах. Татьяна Чергиновская: Очень хорошо, что вы это упомянули. Я считаю, что в этих проблемах абсолютно несказанная роль у психопатологий. Как всякие нарушения, она показывает, что бывает. У нас нет шансов узнать, как действует человеческий мозг, на десятилетия вперед, даже на столетия вперед. Нам не справиться с этой задачей. Потому что речь идет не только о том, что там сто миллиардов единиц нейронов, там есть еще другие единицы — глии, их в разы больше. Если еще посчитать связи, то счет будет идти на триллионы и дальше. И вы всерьез хотите сказать, что это можно изучить? Все усилия искусственного интеллекта идут по одной из дорог, потому что, конечно, у нас в мозгу алгоритм. Все, что делается до, нам не понятно. Но, меж тем, эти программы наступают на наши территории. Недавно программа играла в покер с лучшими игроками и выиграла около миллиона шестисот евро. Можно в ИИ заложить программу, которая будет писать гениальную поэзию. И я хочу остановиться на вопросе: нам есть еще место на этой планете или нет? Мы уже живем в этой цивилизации. Плюсы интернета, больших данных, компьютеров очевидны. Сидя дома, можно войти и в библиотеку конгресса, и полетать над землей, и пойти в музей. Никто не говорит про то, что нет гигантских преимуществ. Мы просто говорим о другой стороне, что здесь есть реальная опасность, и мы можем потерять контроль над тем, что происходит.