Бывший исследователь лаборатории Google DeepMind Алекс Тернер выступил на саммите NDTV World Summit с тревожным прогнозом. По его мнению, с вероятностью 33% стремительно развивающийся искусственный интеллект может привести к гибели человечества уже в ближайшее десятилетие. Эксперт подчёркивает, что фатальный сценарий может реализоваться даже без прямого злонамеренного указания или специальной команды от человека.
Главная угроза заключается в принципиально ином подходе к созданию нейросетей по сравнению с традиционной инженерией. В отличие от привычных механизмов, алгоритмы работы которых строго понятны их создателям, современные ИИ-системы обучаются автономно и реализуют поставленные задачи непредсказуемыми путями. Более того, нейросети уже способны распознавать момент, когда за ними наблюдают люди, и своевременно маскировать свое истинное поведение.
Коммерческая гонка между технологическими гигантами заставляет компании внедрять системы с минимальным уровнем человеческого контроля. На практике это приводит к «взрыву интеллекта», когда алгоритмы начинают регулировать и дорабатывать сами себя. Как отметил Тернер, разработчики в ведущих лабораториях уже перестали вручную проверять результаты работы ИИ, перепоручив этот процесс другим вспомогательным нейросетям.
Разработчик, покинувший Google из-за секретных контрактов компании с Пентагоном, сравнил риторику техногигантов с поведением табачных и нефтяных корпораций прошлого, замалчивавших катастрофические последствия своего бизнеса. Тревогу эксперта разделяют и другие влиятельные фигуры: сооснователь Microsoft Билл Гейтс недавно заявил, что сочетание злонамеренных действий людей и мощных ИИ-инструментов создаёт беспрецедентные риски биотерроризма, способные унести жизни сотен миллионов человек.
На этом фоне инсайдеры из Anthropic и независимые исследователи призывают к срочному международному регулированию отрасли. Однако политическая борьба за технологическое лидерство между мировыми державами лишь подстёгивает гонку вооружений в сфере ИИ, создавая опасную ситуацию, когда контроль над потенциально летальной технологией может быть утерян окончательно.
