Анонс AI Overviews. Источник: Google
Медицинская безопасность под угрозой: ИИ-обзоры Google поставлены под сомнение
Технологический гигант Google вынужден был частично отключить функцию AI Overviews после расследования британского издания The Guardian, которое выявило потенциальные риски для пользователей при получении медицинской информации.
Проблема generative AI в медицинских консультациях
Журналисты обнаружили критический недостаток в системе ИИ-ответов: алгоритм предоставлял обобщенные результаты анализов крови без учета индивидуальных особенностей пациентов. Такой подход может создавать серьезные риски неправильной интерпретации медицинских данных.
Реакция компании и экспертов
Представители Google заявили, что внутренняя команда врачей пересмотрела спорные запросы и в большинстве случаев нашла информацию корректной. Однако Ванесса Хебдич из British Liver Trust подчеркнула: простое удаление одного результата не решает фундаментальную проблему достоверности ИИ-рекомендаций.
Ключевой вывод
Инцидент наглядно демонстрирует необходимость осторожного подхода к применению генеративного искусственного интеллекта в чувствительных областях, требующих предельной точности и индивидуального подхода.
Источник: The Guardian