Анонс AI Overviews. Джерело: Google
Медична безпека під загрозою: ІІ-огляди Google поставлені під сумнів
Технологічний гігант Google змушений був частково відключити функцію AI Overviews після розслідування британського видання The Guardian, яке виявило потенційні ризики для користувачів при отриманні медичної інформації.
Проблема generative AI у медичних консультаціях
Журналісти виявили критичний недолік у системі ІІ-відповідей: алгоритм надавав узагальнені результати аналізів крові без урахування індивідуальних особливостей пацієнтів. Такий підхід може становити серйозні ризики неправильної інтерпретації медичних даних.
Реакція компанії та експертів
Представники Google заявили, що внутрішня команда лікарів переглянула спірні запити і здебільшого знайшла інформацію коректною. Проте Ванесса Хебдич із British Liver Trust наголосила: просте видалення одного результату не вирішує фундаментальної проблеми достовірності ІІ-рекомендацій.
Ключовий висновок
Інцидент наочно демонструє необхідність обережного підходу до застосування генеративного штучного інтелекту у чутливих областях, що потребують граничної точності та індивідуального підходу.
Джерело: The Guardian