Ученый предупредил об угрозе искусственного интеллекта, сравнив его с хищником
Британско-канадский ученый Джеффри Хинтон, известный как крестный отец искусственного интеллекта, заявил, что ИИ может стать умнее человека, и призвал мировое сообщество совместно работать над его развитием, чтобы предотвратить потенциальную угрозу для человечества. Выступая на конференции в Шанхае, лауреат Нобелевской премии по физике подчеркнул, что полностью отказаться от ИИ невозможно, так как он уже приносит значительную пользу в различных сферах. Однако, по его мнению, ключевая задача — обеспечить, чтобы искусственный интеллект не стремился к доминированию.
Хинтон сравнил ИИ с тигренком, которого люди пытаются приручить: «Держать тигренка в качестве домашнего питомца — плохая идея. Есть два варианта: научить его никогда не хотеть вас есть или избавиться от него». Ученый отметил, что первый путь предпочтительнее — необходимо разработать методы, которые предотвратят враждебность ИИ по отношению к людям. При этом он призвал страны делиться исследованиями, несмотря на разницу в интересах, чтобы совместно минимизировать риски.
Особое внимание, по словам Хинтона, должно быть уделено устранению разрыва между «обучением ИИ быть умным» и «обучением ИИ быть добрым». Если искусственный интеллект превзойдет человеческий разум, но не будет этически ограничен, последствия могут быть катастрофическими. Ученый предупредил, что без глобальной кооперации человечество рискует столкнуться с непредсказуемыми угрозами со стороны технологий, которые изначально создавались для его блага.