Компания Anthropic выпустила доклад о пяти реальных случаях применения своих моделей в биологических проектах, вызвавших серьёзную тревогу.
- В первом случае учёный намеревался ставить опыты с вирусом чикунгунья для усиления его патогенности — работа должна была проходить в военном исследовательском институте (название и страна не разглашаются).
- Во втором — исследователь обменялся с Claude тысячами сообщений по проекту, связанному с птичьим гриппом, изучая приспособление вируса к млекопитающим.
- Третий случай — подготовка заявки на грант для лаборатории, работающей с ортопоксвирусами (оспа).
- Четвёртый — создание атласа пептидных токсинов и ИИ-системы для генерации новых молекул, способных вызывать паралич.
- Пятый — оптимизация бактериальных токсинов и белков вируса геморрагической лихорадки, причём исследователь специально просил Claude не называть конкретные вещества и оставлять описания размытыми.
Anthropic заблокировала все связанные аккаунты. Проблема двойного назначения: с одной стороны — медицина, с другой — обход защитных механизмов.
Ранее ridlife.ru писал, как именно ИИ уничтожит человечество.
