Создатели ChatGPT назвали главную опасность чат-ботов

Пара исследований, проведенных OpenAI и MIT Media Lab, выявила, что некоторые испытуемые, которые активно использовали ChatGPT, жаловались на возросшее одиночество и чувство эмоциональной зависимости. Другими словами, одинокие люди с большей вероятностью будут искать глубокую эмоциональную связь с ботами на базе ИИ, при этом у них есть риск заработать болезненную зависимость от такого общения.

Команда проанализировала свыше 4 миллионов разговоров с ChatGPT, в которых участвовали 4076 пользователей. Этих людей опросили об их собственном состоянии и социальных связях в реальном мире, а также о том, считают ли они проблемой привыкание к ИИ.

В результате исследования стало ясно, что большинство людей не развивают глубоких эмоциональных связей с ChatGPT, причём это касается даже реалистичного голосового режима. Однако всё же некоторый процент людей испытывает эмоциональную зависимость к боту, поскольку ИИ убедительно отвлекает собеседника от человеческих связей, заставляя его острее чувствовать одиночество и необходимость в синтетическом компаньоне.

Это не только многое говорит о сложной работе человеческого мозга, но и предупреждает о том, как мнимым благополучием людей могут пользоваться дельцы, которые извлекают выгоду из человеческого одиночества. Данный факт не значит, что чат-боты вредны, поскольку они помогают некоторым собеседникам почувствовать себя менее одинокими и более значимыми.

Однако исследование показывает, что разработчикам нужно более ответственно подходить к созданию нейросетей, а регулирующим органам необходимо создать рамки, чтобы не допустить эксплуатации особо вовлечённых пользователей. К тому же, чрезмерное увлечение чат-ботами может привести к тому, что человек потеряет интерес к связям с настоящими людьми, что приведёт к социальной изоляции и затворничеству.