Александр Голышко: Пока не поздно!
Александр Голышко, ведущий аналитик, АО «НПО РусБИТех», к. т. н. Александр Голышко: Пока не поздно!
«Стремящийся управлять хаосом очень быстро становится его частью…»
(автор неизвестен)
Зарубежные журналисты частенько отмечают, что уже живут в мире, где ложь очень становится официальной информацией, а правда – теорией заговора. Ну а где ложь, там и фабрика фейков с наивысшим своим проявлением – deepfake. Борьба за газеты, телеканалы, интернет-СМИ сегодня перерастает в настоящую войну за алгоритмы искусственного интеллекта (ИИ), который все лучше и лучше генерирует контент в данной области. Одни алгоритмы умеют идентифицировать личность по видео, а другие – эту личность модифицировать. Когда мировой рынок ИИ уже оценивается в более чем $100 млрд., это, несомненно, привлечет всех жаждущих прибыли, не исключая и криминальный элемент. Ведь даже политическая борьба в этом веке проходит не столько за закрытыми дверьми, сколько за открытыми ноутбуками. Понятно, что, к примеру, за смену внешности (своей или чужой) в зависимости от поставленных целей заинтересованные лица будут готовы неплохо заплатить.
В качестве краткой прелюдии зададимся таким вопросом: считается ли в РФ публикация фотографии или видео человека обработкой биометрических персональных данных?
В качестве ответа есть ГК РФ Статья 152.1. Охрана изображения гражданина, введенная 18.12.2006 N 231-ФЗ, которая гласит
1. Обнародование и дальнейшее использование изображения гражданина (в том числе его фотографии, а также видеозаписи или произведения изобразительного искусства, в которых он изображен) допускаются только с согласия этого гражданина. После смерти гражданина его изображение может использоваться только с согласия детей и пережившего супруга, а при их отсутствии — с согласия родителей. Такое согласие не требуется в случаях, когда:
1) использование изображения осуществляется в государственных, общественных или иных публичных интересах;
2) изображение гражданина получено при съемке, которая проводится в местах, открытых для свободного посещения, или на публичных мероприятиях (собраниях, съездах, конференциях, концертах, представлениях, спортивных соревнованиях и подобных мероприятиях), за исключением случаев, когда такое изображение является основным объектом использования;
3) гражданин позировал за плату.
Изготовленные в целях введения в гражданский оборот, а также находящиеся в обороте экземпляры материальных носителей, содержащих изображение гражданина, полученное или используемое с нарушением пункта 1настоящей статьи, подлежат на основании судебного решения изъятию из оборота и уничтожению без какой бы то ни было компенсации (п. 2 введен 02.07.2013 N 142-ФЗ). Если изображение гражданина, полученное или используемое с нарушением пункта 1 настоящей статьи, распространено в сети «Интернет», гражданин вправе требовать удаления этого изображения, а также пресечения или запрещения дальнейшего его распространения (п. 3 введен 02.07.2013 N 142-ФЗ).
Роскомнадзор рекомендует оснащать места, находящиеся под видеонаблюдением, предупредительными надписями или графическим изображением. Если данное условие будет выполнено, то отдельного согласия граждан на проведение съемки не потребуется. Само собой, видеонадзор должен осуществляться только в законных целях, причем данные цели должны быть заранее определены организатором наблюдения.
Ну хорошо. А как быть с подменой фото или видеоизображения, да так, что идентификация подмененной личности не вызовет сомнений? Есть актеры, певцы, государственные деятели, просто известные какими-либо своими деяниями люди и даже в некотором смысле «звезды», узнать которых нетрудно. Есть такие же люди среди тех, кто уже покинул этот мир, и есть их родственники и потомки. Что может сотворить с изображениями всех указанных выше персон ИИ по чужому умыслу, нетрудно догадаться. Да и борьба бизнеса с этикой часто плохо заканчивается для последней.
А если вдруг законные цели сменились на незаконные, и государственные бараны перепутаны с личными? А если никто и не собирался спрашивать вашего согласия? А если вы увидели себя в непонятном виде или в нехорошем сюжете и хотели бы использовать свое право потребовать удаления, но от кого? От гугла? Да и в полиции скажут, что, мол, ничего особого же не случилось, вот когда станете «звездой», тогда и обижайтесь… А если с этого момента со стороны криминала начнется буллинг, шантаж с активной генерацией аналогичных видео, которые сложно будет купировать со стороны надзорных органов? В общем, хаос…
Подмена лиц с быстро нарастающим качеством стала реальностью, и вот в любом фильме при помощи ИИ можно заменить головы актеров. Но это только начало – копироваться будут и походка, и осанка, манеры и пр. Вот, к примеру, прямо сейчас выходит последняя песня The Beatles «Now and Then», восстановленная с помощью ИИ из старой демозаписи с голосом Джона Леннона. Слушайте, а кому теперь (или в обозримом будущем) станут интересны говорящие головы конкретных актеров, а также все эти кастинги, кинопробы, капризы и заоблачные гонорары, если лица, фигуры, голоса можно сгенерировать любые, причем те, что нравятся конкретному потребителю? И не надо ждать пока на горизонте появится какой-нибудь новый «Ален Делон».
И вот уже гильдия киноактеров США начинает забастовку и требует повышения заработной платы, отчисления от показов на стриминговых сервисах и введения ограничений на использование ИИ в кино и телевидении. Они требуют установить жесткие правила и меры безопасности, чтобы защитить актеров «от несанкционированного использования их внешности, голосов и перформансов».
«Искусственный интеллект представляет экзистенциальную угрозу для творческих профессий, и все актеры заслуживают договорных формулировок, которые защитили бы их личность и талант от эксплуатации без согласия и оплаты», — говорят они. А тем временем виртуальные ведущие новостей уже вовсю трудятся в разных странах и уже обзавелись толпой поклонников. Иначе говоря, прогресс в данной области не остановить.
Тут хорошо бы вспомнить феномен «Аватара» Дэвида Кэмерона (2009 г.), о котором уже не раз приходилось вспоминать и который, будучи номинирован на «Оскар» по всем категориям, получил статуэтку лишь за работу оператора. Просто в тот момент прозорливые американские киноакадемики увидели в «Аватаре» экзистенциальную угрозу себе или простыми словами – смерть Кащея привычной им киноиндустрии. А заодно и закат всех голливудских актеров с многомиллионными контрактами, капризами, болезнями, понтами, судебными дрязгами и пр. Отныне деньги будут вложены не в актеров, а в качественный компьютерный продукт. За «сценой», как и всегда, стоит режиссер, который вместе со специалистами по компьютерной графике знает, как сыграть и преподнести конкретный сюжет. Но и режиссером скоро тоже станет ИИ со всеми вытекающими последствиями вплоть до новых забастовок. То видео, что Кэмерон делал годами, ИИ сделает гораздо быстрее. На экранах не только оживут (помолодеют или состарятся) умершие или сгенерированные актеры – совсем скоро в кинопродуктах появятся «актеры по запросу», «сюжеты по запросу» и все пр. за дополнительную плату.
Ваша теща хотела бы сыграть Дездемону? – Так у нас и Отелло найдется…
Что же касается виртуального пространства метавселенных и простого ТВ, то к нему будет относиться все сказанное выше, потому что там все будет технически проще. Достаточно вспомнить недавнее выступление одного бывшего комика в ООН, когда за отсутствием какой-либо заинтересованной аудитории, ее собрали в видеосюжете из виртуальных персонажей, среди которых по недосмотру (или из-за диверсии) в зале оказался и сам оратор в еще одном экземпляре. Нетрудно предвидеть, что виртуальный мир будет наполнен как копиями-сущностями реально существующих людей, так и кем-то придуманных (или намеренно искаженных).
Однако спустимся из мира высокого искусства на наши грешные тротуары. Изображением на экране, в том числе и в 3D, все приведенное выше вряд ли ограничится. У нас везде видеонаблюдение? – Прекрасно! А что мешает сделать в 3D реалистичную маску конкретного человека и, надев ее, совершить что-нибудь неразрешенное? Помнится, Фантомас делал это запросто. Ну а теперь, в век технологий и пр., стоит ожидать и такого. И не в кино. Потом однажды какой-нибудь сотрудник вневедомственной охраны с удивлением будет рассказывать: «Представляете, наш магазин грабил Брюс Уиллис!». Впрочем, фантазий на эту тему может быть много, а реализация будет зависеть от цены замысла. Вы скажете, подделать изображение невозможно, там идет сравнение по сотне признаков. Но что это меняет в век технологий? Сделают и это, если игра стоит свеч.
Ну хорошо, что делать во всем этим грядущим хаосом подмены сущностей, образов и личностей? – Разумеется, возглавить!
Во-первых, раз такое дело, на свое персональное изображение нелишне будет получить государственную регистрацию, как на товарный знак. А его использование сегодня (и завтра) бесполезно запрещать (разве что кроме отдельных неприемлемых случаев) – надо просто брать за это деньги в зависимости, так сказать, от степени этого использования (с учетом ГК, разумеется). Заодно и государство свой процент со сделки получит, и гражданам будет интересно за сертификатом в МФЦ наведаться.
В-вторых, в качестве ответа на логичный вопрос – кто будет всем этим заниматься – следует использовать все тот же ИИ, натренированный на поиск и идентификацию сущностей во всем виртуальном пространстве. Ему также можно доверить распознавание подделки, блокировку и уничтожение неприемлемого или неоплаченного в срок контента.
И, в-третьих, все эти процедуры (а там еще много есть над чем подумать) вместе с расценками логично было бы отразить в разрабатываемом Цифровом Кодексе (ЦК). В высокотехнологичных рисках будущего ЦК должен многое предвидеть, а не пытаться догонять.
Потому что завтра может быть просто поздно…