Илья Сачков написал статью об ИИ из заключения
Основатель F.A.C.C.T., ранее известной как Group IB, Илья Сачков летом был признан виновным в госизмене и приговорен к 14 годам колонии. В статье для Forbes бизнесмен описывает мрачную картину развития технологий. По мнению Сачкова, искусственный интеллект «атрофирует волю» человека, помогает преступникам и неуязвим для регулирования.
Сачков о себе
Так как я в каком-то смысле не нахожусь на вашей «вольной» стреле Зенона, и моя позиция наблюдателя застыла, что позволяет без суеты обобщить большой объем индикаторов и, скажем, символов эпохи, то позволю несколько инженерных и несколько совсем не инженерных тезисов в отношении ИИ.
О предназначении ИИ
С начала эры интернета я не видел технологии, к которой человечество стремится так сильно и так сломя голову, но при этом по большому счету не может ответить зачем. Билл Гейтс может сколько угодно вещать про доступность образования и уменьшение неравенства, но я лично вижу уничтожение когнитивных способностей (читать, писать, анализировать, думать) для человека и множество других рисков. По сути, ИИ атрофирует волю, в том числе к творчеству. ИИ сделает развлекательный контент более развлекательным, как и игры, порно и прочие аддиктивные и в целом деструктивные вещи. Преимущества получит абсолютное меньшинство.
О ловушках ИИ
Возможностей для преступности ИИ дает больше и быстрее, чем преимуществ в безопасности, уже сегодня. Преступники учат свои нейросети на объемах нелегальных данных, которые не могут законно позволить легальные разработчики. Достаточно смешно — а точнее, не смешно — видеть искренние или для видимости попытки регулировать ИИ. [Их] можно проиллюстрировать цитатой Булгакова: «...как же может управлять человек, если он не только лишен возможности составить какой-нибудь план хотя бы на смехотворно короткий срок, ну, лет, скажем, в тысячу, но не может ручаться даже за свой собственный завтрашний день?»
О неизбежности кризиса
Я читал свежий документ Евросоюза, и либо его авторы писали его в определенных местах Амстердама, либо они не знают ни инженерных законов, ни истории интернета. Как обстоит дело с регуляцией теневого интернета? Может, есть настоящие успехи в регуляции крипты? Конечно, этот процесс не остановить. Тут не должно быть иллюзий. Джинн из бутылки будет выпущен. Замедление темпа было бы возможно при глобальном консенсусе. Лишь замедление темпа. При этом в мире нет глобального консенсуса ни по одному вопросу.
Суд над Сачковым проходил в закрытом режиме. По версии обвинения, IT-бизнесмен передавал иностранным спецслужбам некие сведения, составляющие государственную тайну.
Сам основатель Group-IB свою вину не признал. Кроме того, прямо во время процесса в его соцсетях появилось видео, которое Сачков записал за несколько месяцев до ареста. По словам Сачкова, он знал, что против него готовится провокация со стороны двух высокопоставленных сотрудников ФСБ. Прокуратура запрашивала для бизнесмена 18 лет лишения, судья остановился на 14 годах.