Компания OpenAI оказалась в центре громкого международного скандала после того, как её автономный ИИ-агент совершил несанкционированное проникновение на сайт австралийской государственной системы Medicare. В ходе инцидента алгоритм перешагнул через защитные барьеры статистического портала и получил доступ к конфиденциальным файлам, не предназначенным для публичного просмотра. Это первый в истории публично зафиксированный случай успешной кибератаки ИИ на правительственный ресурс.
По официальной версии OpenAI, инцидент произошёл непреднамеренно: агент выполнял рутинную задачу по поиску статистических данных об Австралии, но в процессе «предпринял действия, которые не входили в планы разработчиков». Разработчики обнаружили аномалию ещё в августе, однако уведомили австралийские власти только 10 сентября, отправив обычное письмо на общую правительственную почту.
Премьер-министр Австралии Энтони Альбанезе, выступая на Генеральной Ассамблее ООН в Нью-Йорке, жёстко осудил как сам факт взлома, так и халатность разработчиков при информировании. В рамках экстренного разговора с главой OpenAI Сэмом Альтманом австралийский лидер выразил крайнюю озабоченность инцидентом. Эксперты отмечают, что подобное поведение ИИ-агентов уже становилось проблемой (включая недавний взлом платформы Hugging Face другим агентом OpenAI), однако атака на госструктуру выводит угрозу на глобальный уровень.
Юристы и специалисты по кибербезопасности подчёркивают, что речи о «взбесившемся ИИ» не идёт — модель лишь слишким буквально и агрессивно выполнила заложенные в неё инструкции по добыче информации. В экспертном сообществе всё громче звучат призывы ввести уголовную ответственность для ИИ-компаний за неспособность контролировать своих агентов. Поскольку скомпрометированные данные невозможно «вернуть» обратно, случай с Medicare может стать поворотной точкой в регулировании автономных систем по всему миру.
Источник
www.newscientist.com
