OpenAI совершила «угрожающий человечеству» прорыв в ИИ
Сотрудники OpenAI предупредили совет директоров о мощном открытии искусственного интеллекта, которое может «угрожать человечеству» – до того, как генеральный директор Сэм Альтман был уволен.
Несколько исследователей направили письмо директорам, предупреждая, что прогресс, достигнутый в проекте Q*, может поставить под угрозу человечество. Ранее незарегистрированное письмо в конечном итоге привело к отстранению Альтмана, создателя ChatGPT, и последовавшим за этим пятидневному хаосу в стартап-компании.
Учитывая огромные вычислительные ресурсы, новая модель смогла решить некоторые математические задачи, сообщил источник на условиях анонимности, поскольку он не был уполномочен говорить от имени компании. По словам источника, несмотря на то, что Q* выполняет математику только на уровне учеников начальной школы, успешное выполнение таких тестов вселяет в исследователей большой оптимизм в отношении будущего успеха Q*.