Звоните Саре Коннор
Об искусственном интеллекте и добровольном рабстве в книге французского философа Гаспара Кенига "Конец индивидуума"
Некоторые уже содрогаются при упоминании искусственного интеллекта. Как в научно-фантастических фильмах, машины правят человечеством. Уже сейчас сверхмощные алгоритмы манипулируют нами при каждом выходе в интернет. Ленты социальных сетей дают нам не всю информацию, а показывают только те посты, которые с большой вероятностью вызовут у нас эмоции (позитивные и негативные), чтобы привлечь внимание и заставить задержаться на площадке. Даже поисковая выдача на один и тот же запрос у разных людей будет разной. Если вы сторонник теории заговоров, то не стоит ждать от поисковика шквала научных статей. Аналогично работают и алгоритмы YouTube. Как скоро мы станем марионетками?
Возможно, это произойдет очень скоро. А может быть, никогда. Одновременно предупреждает и успокаивает французский философ и журналист Гаспар Кениг. Он объездил полмира и взял интервью у самых разных людей, которые занимаются исследованиями и разработками в сфере искусственного интеллекта. Более сотни человек рассказали ему, каким будет наше будущее вместе с ИИ. Часто эти видения довольно противоречивые.
Угроза обществу
Основное внимание в книге "Конец индивидуума" Гаспар Кениг уделяет использованию искусственного интеллекта в социальных сетях. Он задается вопросом: может ли человек все еще избегать алгоритмов социальных сетей и их влияния или они уже стали неотъемлемой частью человеческого общения? Существует ли еще общество, в котором конкурируют аргументы, "рынок идей" или только медиаплановая экономика с ее универсальными алгоритмами?
Таким образом, лейтмотив всей книги — старый вопрос австро-британского социолога и философа Карла Поппера о выживании демократического, открытого общества в условиях новой тенденции к цифровому феодализму. Надо признать, что феодализм прошлого имеет мало отношения к нынешнему. Руководители крупных IT-корпораций мало похожи на авторитарных правителей феодального Средневековья. Их принуждения более мягкие. Они больше не приказывают и не наказывают, как это делали раньше. Их главный инструмент — это так называемый толчок, причем постоянный. Именно он толкает нас к непрерывному поглощению контента. А делает он это благодаря обширным знаниям о нас, которыми мы сами так охотно делимся из-за социальной зависимости.
Речь идет не только о той информации, которую мы выкладываем в своих соцсетях. И даже не о "лайках" или "дизлайках", которые мы ставим под публикациями других людей или видео. К примеру, мы должны принимать практически все файлы cookie, чтобы в принципе получить доступ к запрашиваемой информации. Это неравная сделка. Мы постоянно раскрываем информацию о себе в обмен на мгновенный доступ. Кениг называет это "добровольным рабством".
Я осознал, что добровольно замкнулся в "племенной" логике: потерял способность выйти из своего либерального заповедника, высказывать сомнения и уточнения, чтобы не разочаровать ими своих фолловеров, алчущих твердых мнений. Некоторые называют такой феномен "политической гомофилией": благодаря игре данных интернет стал пространством, которое, не приветствуя различия, усиливает сходства. Больно осознавать это добровольное рабство, странную манипуляцию, источником и одновременно жертвами которой мы стали...
Освобождение через манипуляцию?
Не все собеседники Кенига согласны с его позицией. Некоторые видят ситуацию совсем иначе. К примеру, он беседовал об искусственном интеллекте с израильским военным историком-медиевистом и футурологом Ювалем Харари, чьи книги стали в России бестселлерами. Харари в восторге от искусственного интеллекта и его возможностей.
Избавленное от самых неудобных желаний, новое человечество будет состоять из пацифистов, экологов и коммунитаристов. В этом конечный смысл Homo deus: не приобретение автономии, а личный путь к "блаженству", как сказал бы Спиноза. Сама способность ИИ нами манипулировать извращенным образом служит нашему освобождению.
Харари считает, что искусственный интеллект знает человека лучше, чем он сам. И если у этого человека нет свободы воли, то не лучше ли передать машине право выбора? Так размышляет Юваль Харари. В этом вопросе Кениг с ним не согласен. Он считает, что именно искусственный интеллект мешает человеку стать самим собой и сформировать в себе свободного волителя — через постепенное принятие решений в самых разных ситуациях: от выбора цвета трусов в интернет-магазине до выбора романтических отношений.
Если алгоритм знает меня лучше, чем я сам, и предлагает мне более рациональные решения, чем я мог бы принять самостоятельно, если мириады объединенных в сеть объектов делают мою способность к решению излишней, предлагая мне жизнь комфортную и предопределенную, если я постепенно перестаю быть движущей силой собственных действий, зачем мне понадобится право голоса? <...> Триумф благополучия означал бы тогда отречение от свободы — свободы выбора, свободы восстания, свободы ошибаться, "свободы заблуждаться", о которой говорил Джон Стюарт Милль.
Оптимизация или совершенствование?
Слова "оптимизация" и "совершенствование" можно назвать синонимами. Но Кениг видит в них принципиальное различие, которое полностью меняет восприятие мира. Он считает оптимизацию противоположностью совершенствования. По мнению Кенига, у оптимизации всегда есть цель, а совершенствование — это постоянная адаптация к обстоятельствам. И часто конечная цель этого процесса неизвестна. А это, в свою очередь, не укладывается в логику искусственного интеллекта. Ему нужна цель. И он, надо отметить, как и многие люди, тяготеет к застывшей стабильности. Обмен товарами. Неизменность профессий. Неизменяемость любовных связей. Таким образом, оптимизация в коротком промежутке времени ускоряет определенные процессы, а на длинной дистанции приводит к параличу развития и инноваций.
Американский эссеист, писатель и статистик Нассим Талеб, как и Кениг, с недоверием относится к искусственному интеллекту. Он согласен с выводами автора про вред оптимизации посредством ИИ. Талеб придумал концепцию "черного лебедя". Это труднопрогнозируемые и редкие события со значительными последствиями. Талеб считает, что никакой искусственный интеллект не может их отследить. В отличие от человека. Потому что "черный лебедь" — это не только совокупность точных характеристик, но и интуиция. Нелюбовь Талеба к ИИ в первую очередь связана с отсутствием случайности, в которой он видит одно из главных условий стихийного порядка. В этом случае оптимизация создает хрупкость, а хрупкость вызывает опять-таки паралич и ненадежность.
В книге Гаспара Кенига "Конец индивидуума" много различных идей, концепций, теорий и прогнозов. Но есть один момент, о котором неоднократно говорил сам автор и который в итоге упустил из поля зрения. Кениг описывал ситуации, где в повторяющихся действиях будет полностью исключен человеческий фактор. К примеру, беспилотные перевозки. Автор предполагает, что в будущем будут внесены изменения в законодательство, поскольку в ДТП между роботом и роботом нужно определить степень ответственности и кто ее будет нести. Но кто будет регулировать поле действия искусственного интеллекта и на какой трансмедийной площадке? Этот вопрос Кениг оставил без ответа.
Издательство: IndividuumПеревод: Инна КушнареваКоличество страниц: 352Год: 2023Возрастное ограничение: 16+
Екатерина Петрова — литературный обозреватель интернет-газеты "Реальное время", автор telegram-канала "Булочки с маком" и основательница первого книжного онлайн-клуба по подписке "Макулатура". За помощь в проведении съемки благодарим Национальную библиотеку РТ.
