Александр Голышко: Интеллектуальное право убивать
Александр Голышко, ведущий аналитик, АО «НПО РусБИТех», к. т. н. Александр Голышко: Интеллектуальное право убивать
«С религией, или без неё, хорошие люди будут делать добро, а плохие люди будут делать зло. Но чтобы заставить хорошего человека делать зло — для этого необходима религия».
Стивен Вайнберг, физик, Нобелевский лауреат.
Как пишет американское издание Business Insider, Минобороны США рассматривает возможность дать искусственному интеллекту (ИИ) «право» на принятия автономных решений об уничтожении человеческих целей. Речь идёт о создании дронов, которые будут управляться ИИ и самостоятельно принимать решение о ликвидации людей. Подобный автономный дрон Skybord совершил первый полёт в 2021 году.
Надо сказать, что у многих критиков ИИ вызывает неприятие как раз появление «роботов-убийц», которые без участия человека будут решать, кого убивать на поле боя, а быть может, и не только на поле боя. Тем более, что история дронов, управляемых человеком-оператором, изобилует примерами нанесения ударов по гражданским автомобилям, свадьбам и прочим массовым шествиям, как это имело место в Ираке или в Афганистане.
Британское издание The Independent пару лет назад, ссылаясь на доклад Совета безопасности ООН, сообщило, что боевой дрон турецкого производства Kargu-2 впервые автономно атаковал людей, не получив на это указаний, это стало сенсацией для военных экспертов и аналитиков. Якобы это произошло в Ливии в 2020 году, когда беспилотник, не получив на это указаний, самостоятельно применил вооружение. То есть турецкий дрон сам себе цель выбрал, сам и нанес удар. Согласитесь, очень похоже на информационный вброс с целью облегчить местному обывателю понимание происходящего, что, мол, давно пора… Ведь даже в Турции…
Business Insider пишет, что ряд стран в ООН продвигают проекты резолюций с ограничениями использования дронов-убийц с ИИ, однако США и некоторые другие страны всячески препятствует принятию подобного документа, потому что, по некоторым данным, Пентагон готовит атакующие рои из тысяч дронов под управлением ИИ. Не далее, как в августе этого года, замминистра обороны США Кэтлин Хикс заметила, что технологии подобные «рою дронов» под управлением ИИ «позволят Вашингтону компенсировать количественное преимущество китайской армии в живой силе и вооружении». Очевидно, «яйцеголовые» из Пентагона нашли, что противопоставить на поле боя рою китайских солдат и вооружили этим знанием своих военных чиновников. Но если серьезно, то с огромным роем средствам ПВО справиться и в самом деле будет непросто.
Ну что же, во-первых, в КНР существует своя концепция использования роя дронов для решения атакующих задач. Еще в 2018 году в рамках международной выставки China Airshow 2018 в китайском Чжухае компания Norinco представила несколько тактических сценариев боевого применения роя беспилотников.
Во-вторых, что касается этики и грядущих доходов американского ВПК, то тут никаких сомнений быть не может – деньги превыше всего. То есть делать все неэтичное они будут, даже если под чем-нибудь бумажным и распишутся.
В-третьих, этаким роем можно напугать папуасов, но армия завтрашнего дня разработает против него свои средства борьбы из роев противодронов на ИИ или же просто приземлит всю эту свору с помощью средств РЭБ.
А что делать с дронами, не выполнившими свои задачи или же вышедшими из подчинения, а то и превратившиеся в серийных убийц, чего, кстати, все и опасаются? К примеру, можно попробовать самоуничтожение. То есть это будет не просто роботизированная «обезьяна», а гарантированно с гранатой (или в виде кирпича на голову). Да и отчего бы шибко умному ИИ не отключить этот режим и дать деру? То есть остаются не менее умные противодроны, которые… В общем, вы понимаете.
Вам не кажется, что мы присутствуем при вольном пересказе давнего рассказа Роберта Шекли «Страж-птица»? Там летающему роботу была поставлена задача, во-первых, с помощью электрических разрядов помешать живым существам совершать убийства. Во-вторых, убийство можно определять как насилие, которое заключается в том, что одно живое существо ломает, увечит, истязает другое существо или иным способом нарушает его жизнедеятельность. В-третьих, убийство отслеживать по определенным химическим и электрическим изменениям в организме.
Потом страж-птицы обнаружили, что за время их работы число убийств и насилии над личностью стало расти в геометрической прогрессии. Это было верно постольку, поскольку их определение убийства непрестанно расширялось и охватывало всё больше разнообразнейших явлений. Но для Страж-птиц этот рост означал лишь, что прежние и методы несостоятельны. Страж-птицы стали разить насмерть. К тому же с живыми существами они стали ассоциировать и себя, а попытку их выключить – с попыткой убийства.
Вот тут закрылись чикагские бойни, скот в хлевах издыхал с голоду, потому что фермеры Среднего Запада не могли косить траву на сено и собирать урожай.
Или вот паук напал на муху. Страж-птица устремилась на выручку.
В итоге сконструировали Ястреба, нацеленного на уничтожение Страж-птиц. Выпустили машину-убийцу на машину против убийц.
«Высоко в небе Ястреб атаковал Страж-птицу. Бронированная машина-убийца за несколько дней многому научилась. У нее было одно-единственное назначение: убивать. Сейчас оно было направлено против совершенно определенного вида живых существ, металлических, как и сам Ястреб.
Но только что Ястреб сделал открытие: есть еще и другие разновидности живых существ…
Их тоже следует убивать.»
Однако же высказанные Робертом Шекли угрозы, к счастью, в том рассказе еще не реализовались.
О том, что бывает потом, можно найти в рассказе Севера Гансовского «Полигон», где на обезлюженном острове (индейцам велели по-быстрому убраться) проводились испытания автономного танка под управлением ИИ. Принцип его работы был в том, что борьба происходит не в сфере действий, а в сфере намерений. Если кто-то хочет уничтожить танк, он сначала обязательно думает об этом, верно? Вот, скажем, артиллерист сидит у орудия. Прежде чем выстрелить, нужно навести его, а затем нажать рычаг спускового устройства. В этот момент у него в мозгу возникает особая Е-волна, или волна действия. Вот на нее-то и реагирует блок, смонтированный внутри танка, который дает танку команду передвинуться.
Пошли испытания. Танк-мишень стоял на месте до самого момента выстрела. Затем, чуть опережая вспышку дульного пламени из блиндажа, гусеницы приходили в движение, танк прыгал в сторону, снаряд рвался сзади, впереди или сбоку, осколки горохом стучали по броне, и машина опять застывала, как огромный серый камень. По распоряжению генерала танк стали обстреливать из двух орудий сразу, но он оставался невредимым.
– Ну отлично, – сказал генерал. – Это все была оборона. Теперь как насчет наступления? Отдайте танку приказ, чтоб он начал обстрел блиндажа.
Все смотрели на танк. На полигоне было тихо.
– Ну? – сказал полковник с челюстью. – Что-то заело, да?
– Нет, все в порядке. Но машине нужен сигнал. Она не расходует боеприпасы бесцельно, как это часто случается с вашими специалистами. Солдаты в укрытии, и снаряд в них не попадет. Необходимо, чтоб они ощущали себя уязвимыми и боялись, что танк их уничтожит. Одним словом, опять-таки нужна Е-волна страха. Принцип тут в том, что жертва, если можно так выразиться, должна руководить палачом.
– А когда же она кончит работать?
– Никогда. Это же самозаряжающийся автомат. Получает энергию от солнечных лучей. Если кончатся снаряды, будет давить противника гусеницами. Но и снарядов довольно много.
– Весело, – сказал генерал. – А как же мы ее будем увозить отсюда, если танк начнет отстреливаться? Как мы к нему подойдем?
– Мы его и не увезем, – ответил изобретатель. – Он нас всех уничтожит.
Потом кто-то таки испугался, и началось…
В общем, все умерли.
Ну что же, вы скажете, что Е-волна – это фантастика. Конечно фантастика, как, к примеру, еще недавно ею считался нейроинтерфейс, разработанный компанией Илона Маска и уже вживляемый в отдельные головы. Потом грядет Интернет 4.0 или просто нейронет, в недрах которого ИИ сможет отыскать какую-нибудь Е-волну. А человечество будет ожидать не просто тотальная слежка, а самый настоящий контроль вплоть до «отключения» жизней.
В общем, зря вы читали это на ночь…