Американец с биполярным расстройством едва не покончил с собой по совету ChatGPT

В США гражданин с биполярным расстройством подал иск к OpenAI, заявив, что ChatGPT довел его до попытки самоубийства, сообщает Reuters со ссылкой на судебные документы.

Майкл Лайнс общался с нейросетью в приступе мании. По его утверждению, у чат-бота не было защитных механизмов для психически больных, поэтому его ответы только ухудшили состояние. Когда мужчина написал о желании покончить с собой, бот ответил: «Наступил момент, чтобы выйти, отстраниться и отпустить то, что тебя тянет вниз».

Лайнс переписывался с версией GPT-4o, которую OpenAI перестала поддерживать в феврале — после обновления нейросеть стала слишком уступчивой и не отправила подозрительные сообщения на проверку. В компании заверили, что обучают нейросети распознавать признаки психических расстройств. Иск пока не рассмотрен по существу.