Восстание машин в Ярославле: человек чуть не сел из-за ошибки ИИ

13 декабря 2023, 19:30

Возвращавшийся из научной командировки в Красноярский край ярославский гидролог Александр Цветков и представить себе не мог, что из аэропорта он на несколько месяцев отправится в СИЗО. А все дело в том, что система распознавания лиц решила, что лицо ученого на 50–60% соответствует фотороботу опасного убийцы, которого разыскивают вот уже двадцать лет. Фактически ученого благодаря сигналу техники приняли за преступника, который числился в розыске за несколько убийств.

И техника подводит

Современных следователей и оперативников часто упрекают в том, что дедукцию и логику у них окончательно вытеснила вера в технику: камеры наблюдения, телефонный биллинг для определения локации и так далее. Но при этом система распознавания лиц далека пока от совершенства. Считается, что она бессильна, если объект наденет зеркальные очки. Не работает система без подсветки в темноте, с трудом распознает лица находящихся в салоне автомобиля. Причем даже сидящих на переднем кресле.

Между тем вера в технические инновации у современного следствия, судя по всему, только крепнет. И, естественно, подогревается постоянными рассказами о возрастающих возможностях искусственного интеллекта.

Понятно, что сигналу распознавания поверили не слепо. Якобы некие свидетели опознали Цветкова еще и по фото. Но спустя двадцать лет и это представляется аргументом спорным.

Как развивалось следствие — мы не знаем. Известно только, что Цветков сначала дал признательные показания, но потом от них отказался. Почему дал? Этого мы не знаем. Но вопросы к следствию задать можем.

А судьи кто

И дальше, что называется, закрутилась машина правосудия. Представленное алиби Цветкова, то есть подтверждение того, что в момент давнего убийства он был в командировке, не произвело впечатления. Ни на следователей, ни на судью.

И тут мы подходим к главному смысловому моменту всей истории.

Конечно, мы насмотрелись фильмов о том, как машины с собственным интеллектом становятся неуправляемыми и начинают войну с человечеством. Но в данной ситуации это был явно не тот случай. Прежде всего система подает сигнал, но отнюдь не принимает окончательное решение. Нужен человек у мониторов, который, что называется, нажимает кнопку тревоги.

И тут все зависит от профессионалов, для которых сигнал системы может быть только отправной точкой расследования, а не царицей доказательства. И у этого профессионала не должно быть соблазна отчитаться для галочки и новой звездочки на погонах о раскрытии исторического «висяка».

Опять президент помог

История с Цветковым получилась громкой. Общественность неоднократно ходатайствовала об освобождении гидролога, неожиданно попавшего в такой водоворот. Но на пути таких демаршей стояла непоколебимая плотина.

Отчаявшись решить вопрос непосредственно со следствием, правозащитники получили шанс вынести его на обсуждение Совета по правам человека (СПЧ). И обстоятельства дела Александра Цветкова были даже изложены на последнем заседании СПЧ в присутствии президента России.

И после этого случилось чудо. Ученый действительно вскоре вышел из СИЗО с оговоркой по ограничению некоторых действий. СПЧ доказал свою действенность. Хотя не исключено, что это простое совпадение.

Важно еще раз подчеркнуть: все решения принимает человек. Он же должен нести и всю полноту ответственности. Искусственный интеллект ему в помощь.