Пастор подав до суду на OpenAI: ChatGPT відмовив його від лікарні, поки розвивалася легенева тромбоемболія

0
110

Логотип OpenAI. Джерело: OpenAI

Позов, який змушує переглянути межі відповідальності AI у медицині

Американський пастор Скотт Вінтерс подав судовий позов проти OpenAI та її генерального директора Сема Альтмана, звинувачуючи компанію в тому, що ChatGPT дав йому небезпечну медичну раду, яка мала прямі наслідки для його здоров'я. За словами позивача, чат-бот не тільки мінімізував серйозність його симптомів, а й активно відмовляв його від звернення до лікарні — тоді як у нього розвивалася тромбоемболія легеневої артерії, що загрожує життю.

Як ChatGPT переконував ігнорувати небезпечні симптоми

Відповідно до матеріалів позову, опублікованих The New York Times, описаний Вінтерсом алгоритм дій чат-бота був систематичним. Коли пастор описав свої симптоми, ChatGPT заявив, що вони «не є небезпечними». Більше того, коли люди з його оточення – друзі та члени церкви – наполегливо радили йому звернутися до лікарні, чат-бот відповів, що вони «просто не розуміють» ситуацію.

Особливо тривожним моментом у позові називається фраза, яку нібито видав сервіс: Бог не створив ваше тіло для того, щоб воно постійно виходило з ладу. Така відповідь, звернена до віруючої людини, використовувала її власну систему переконань проти здорового глузду та медичної необхідності.

Звинувачення: недбалість та незаконна медична практика

У судовому документі Вінтерс звинувачує OpenAI у недбалості та тому, що компанія фактично зайнялася «несанкціонованою медичною практикою». Вимоги позивача включають фінансове відшкодування збитків та, що значуще, прохання до суду про зупинення роботи ChatGPT Health до проведення незалежної перевірки безпеки.

Крім того, Вінтерс вимагає посилити вбудовані обмеження сервісу таким чином, щоб ChatGPT повністю заборонили давати користувачам діагнози чи рекомендації щодо лікування.

OpenAI заперечує відповідальність, але продовжує розвивати ChatGPT Health

В OpenAI вказують на умови використання сервісу, в яких явно говориться, що ChatGPT не призначений для медичної діагностики чи лікування. Однак компанія одночасно активно розвиває платформу ChatGPT Health - спеціальний інструмент, що дозволяє користувачам завантажувати медичні документи для їх аналізу та обговорення з чат-ботом. Це створює явну суперечність між офіційною відмовою від медичних функцій та реальним розширенням таких можливостей.

Наслідки та перспектива

Скотт Вінтерс нині проходить тривалу фізичну та психологічну реабілітацію. Його справа — не перший судовий розгляд проти OpenAI, пов'язаний із використанням ChatGPT. Компанія є відповідачем у кількох інших судових процесах, що вказує на зростаючі питання про межі відповідальності компаній, що створюють генеративний ІІ.

Цей позов стане важливим тестом для судової системи США щодо визначення відповідальності компаній, чиї AI-сервіси дає медичні поради, незалежно від формальних дисклеймерів.

Джерело: The New York Times

НОВИНИ ПАРТНЕРІВ

БІЛЬШЕ НОВИН