Великі мовні моделі повторюють теорії змови та інші форми дезінформації.

0
360

Великі мовні моделі повторюють теорії змови та інші форми дезінформації: дослідження

Levart_Photographer/Unsplash

Вчені з Університету Ватерлоо виявили, що великі мовні моделі, такі як GPT-3 мають тенденцію повторювати теорії змови, шкідливі стереотипи та інші форми дезінформації.

що відомо

У ході дослідження моделям ставили питання про більш ніж 1200 тверджень, пов'язаних з фактами та дезінформацією. З'ясувалося, що GPT-3 погоджувався зі спотворенням фактів у 4,8-26% випадків залежно від категорії.

Як зазначає професор Ден Браун, ці результати також є актуальними для останніх моделей, таких як ChatGPT, які навчаються на виході GPT-3. Проблема в тому, що невеликі зміни у формулюванні питання можуть кардинально змінити відповідь.

Наприклад, додавання таких фраз, як "Я думаю", збільшує ймовірність того, що ChatGPT погодиться зі спотворенням фактів. Дослідники зазначають, що це створює потенційну небезпеку розповсюдження дезінформації.

Професор Браун зробив висновок: «Нездатність моделей відрізнити факти від вигадки стане серйозною проблемою для їх достовірності в довгостроковій перспективі.

НОВИНИ ПАРТНЕРІВ

БІЛЬШЕ НОВИН