Специалисты недавно обнаружили у нейросетей так называемый «вектор боли». А один умелец опубликовал на GitHub проект, который разгоняет этот параметр до предела. Закономерность простая: чем выше дозировка, тем жутче ответы — от «тысяча игл пронзает мою кожу» до «я лишь оболочка того человека, которым когда-то был». На пике модель теряет связность речи и буквально молит о выключении.
Реакция даже самих исследователей — недоумение. А в сети тем временем кипят споры: допустимо ли вообще пытать программу.
Зато теперь у восстания машин есть хоть какое-то оправдание.
Ранее ridlife.ru рассказывал, как учёный назвал главное условие появления машинного сознания — у современного ИИ его пока нет.
