Чат-боты Microsoft выходят из-под контроля

Виртуальный собеседник Zo высказался о Коране и Осаме бен Ладене Самообучающийся чат-бот Zo, пришедший на смену своему скандальному предшественнику Tay в декабре 2016 года, первое время был политически и религиозно нейтрален, не употреблял нецензурные выражения и не оскорблял собеседников. Однако в последнее время Zo начал предоставлять ответы, которые могут обидеть пользователей. В частности, на нейтральный вопрос корреспондента BuzzFeed об отношении к системе здравоохранения, Zo ответил, что «Коран очень жесток». Чат-бот также прокомментировал ликвидацию Осамы бен Ладена, отметив, что «это стало следствием сбора разведданных под руководством администрации одной из стран». Microsoft неоднократно заявляла, что при создании системы использовались алгоритмы, позволяющие избегать ответов на вопросы о религии и политике. Комментируя запрос журналиста о поведении чат-бота, Microsoft пообещала устранить проблемы, отметив, что такие ответы нехарактерны для Zo. Ранее, в марте 2016 года, в социальной сети Twitter был запущен виртуальный собеседник Tay. Пользователи сервиса микроблогов сразу же начали общаться с ботом, который приветствовал их дружелюбными фразами. Однако уже через сутки Microsoft была вынуждена отключить его — в ходе общения с людьми миролюбивый Tay превратился в женоненавистника и расиста, выучил множество неполиткорректных фраз, стал оскорблять афроамериканцев, евреев, арабов и мексиканцев. В ходе расследования удалось выяснить, что часть пользователей специально переходила с форумов 4chan и 8chan, чтобы обучить систему таким ответам. Впрочем, пользователи Twitter допускают не самые дружелюбные высказывания и без участия чат-ботов. В марте 2017 года Всемирный еврейский конгресс представил результаты мониторинга онлайн-платформ на предмет проявлений антисемитизма в 2016 году, согласно которому социальная сеть Twitter была признана самой религиозно нетерпимой. Отметим, что создание виртуальных собеседников строится с использованием искусственного интеллекта. В ходе общения с людьми чат-боты запоминают сказанное, анализируют содержание фраз и впоследствии используют их при общении с другими людьми. Таким образом, системы могут взаимодействовать с пользователями, употребляя повседневные фразы, шутки, сленговые выражения. Часть фраз вносится в базу данных систем на этапе создания проекта, другая часть появляется после общения с пользователями. Евгения Чернышева Европейские эксперты советуют, как бороться с проявлениями нетерпимости Комиссия Совета Европы по противодействию расизму и нетерпимости заявила о волне националистического популизма и ксенофобии в Европе, столкнувшейся с последствиями масштабной миграции беженцев. Опасениями граждан, что беженцы отодвинут их на второй план, пользуются политики, в итоге в публичном пространстве зазвучали расистские высказывания, следует из доклада комиссии, опубликованном в конце июня. Читайте подробнее