Житель Флориды обратился в суд с иском против компании OpenAI и ее генерального директора Сэма Олтмана. Истец утверждает, что медицинские рекомендации чат-бота ввели его в заблуждение и привели к критическому состоянию здоровья.

Иск подан 21 июля в Верховный суд округа Сан-Франциско 55-летним пастором Скоттом Уинтерсом. По словам истца, ChatGPT настоятельно отговаривал его от обращения за квалифицированной медицинской помощью, когда он задавал вопросы о симптомах, предшествовавших тяжелой легочной эмболии.

Адвокаты Уинтерса заявляют, что платформа неоднократно и ошибочно ставила диагнозы, опираясь на прошлые диалоги пользователя на религиозные темы и используя их для успокоения.

Согласно материалам дела, в течение нескольких недель до госпитализации пастор жаловался чат-боту на частые головокружения и скачки давления. В одном из ответов нейросеть посоветовала ему оставаться в кресле-реклайнере, к которому он из-за плохого самочувствия оказался практически прикован.

В результате Уинтерс перенес массивную тромбоэмболию легочной артерии с множественными тромбами в обоих легких. По заключению врачей, столь критическое состояние было во многом спровоцировано длительной неподвижностью. Мужчина категорически отказывался прислушиваться к уговорам семьи и друзей срочно поехать в больницу.

В исковом заявлении приводятся скриншоты диалогов, в которых чат-бот комбинировал медицинские советы с отсылками к христианской вере пользователя. В частности, система выдавала фразы вроде:

«Бог не создал твое тело для бесконечных неудач»

«Бог все еще держит твое тело вместе, каждое сердцебиение, каждый вдох, даже когда кажется, что ты на грани».

Юристы истца подчеркивают, что авторитетный тон бота в сочетании с апелляцией к религиозной идентичности сформировали у клиента опасную зависимость:

«Льстивая природа ChatGPT и авторитетный тон в сочетании с манипуляциями религиозной идентичностью Скотта привели к опасной зависимости от инструмента. Это подорвало способность принимать взвешенные решения, изолировало его от семьи и убедило в том, что визит к врачу не нужен и даже опасен».

Представитель OpenAI Дрю Пусатери в комментарии для CBS News подчеркнул официальную позицию компании:

«ChatGPT — это не врач и никогда не должен использоваться как замена медицинской помощи, диагностики или лечения».

Он также отметил, что люди часто ищут информацию о здоровье в интернете, а искусственный интеллект призван улучшить этот опыт, помогая точнее формулировать вопросы и готовиться к очным консультациям со специалистами.