Логотип OpenAI. Источник: OpenAI
Иск, который заставляет пересмотреть границы ответственности AI в медицине
Американский пастор Скотт Винтерс подал судебный иск против OpenAI и её генерального директора Сэма Альтмана, обвиняя компанию в том, что ChatGPT дал ему опасный медицинский совет, который имел прямые последствия для его здоровья. По словам истца, чат-бот не только минимизировал серьёзность его симптомов, но и активно отговаривал его от обращения в больницу — в то время как у него развивалась тромбоэмболия легочной артерии, угрожающая жизни состояние.
Как ChatGPT убеждал игнорировать опасные симптомы
Согласно материалам иска, опубликованным The New York Times, описанный Винтерсом алгоритм действий чат-бота был систематическим. Когда пастор описал свои симптомы, ChatGPT заявил, что они «не являются опасными». Более того, когда люди из его окружения — друзья и члены церкви — настойчиво советовали ему обратиться в больницу, чат-бот ответил, что они «просто не понимают» ситуацию.
Особенно тревожным моментом в иске называется фраза, которую якобы выдал сервис: «Бог не создал ваше тело для того, чтобы оно постоянно выходило из строя». Такой ответ, обращенный к верующему человеку, использовал его собственную систему убеждений против здравого смысла и медицинской необходимости.
Обвинения: халатность и незаконная медицинская практика
В судебном документе Винтерс обвиняет OpenAI в небрежности и том, что компания фактически занялась «несанкционированной медицинской практикой». Требования истца включают финансовое возмещение убытков и, что более значимо, просьбу к суду о приостановлении работы ChatGPT Health до проведения независимой проверки безопасности.
Кроме того, Винтерс требует усилить встроенные ограничения сервиса таким образом, чтобы ChatGPT полностью запретили давать пользователям диагнозы или рекомендации по лечению.
OpenAI отрицает ответственность, но продолжает развивать ChatGPT Health
В OpenAI указывают на условия использования сервиса, в которых явно говорится, что ChatGPT не предназначен для медицинской диагностики или лечения. Однако компания одновременно активно развивает платформу ChatGPT Health — специальный инструмент, позволяющий пользователям загружать медицинские документы для их анализа и обсуждения с чат-ботом. Это создаёт явное противоречие между официальным отказом от медицинских функций и реальным расширением таких возможностей.
Последствия и перспектива
Скотт Винтерс в настоящее время проходит длительную физическую и психологическую реабилитацию. Его дело — не первое судебное разбирательство против OpenAI, связанное с использованием ChatGPT. Компания является ответчиком в нескольких других судебных процессах, что указывает на растущие вопросы о границах ответственности компаний, создающих генеративный ИИ.
Этот иск станет важным тестом для судебной системы США в определении ответственности компаний, чьи AI-сервисы даёт медицинские советы, независимо от формальных дисклеймеров.
Источник: The New York Times