Логотип с. Джерело: TikTok
Нова зброя проти синтетичних відео
TikTok активно включається у боротьбу з однією з найгостріших проблем сучасного інтернету – дипфейками. Платформа почала тестувати інструмент, що дозволяє творцям контенту добровільно захистити свою зовнішність від несанкціонованого використання в AI-генераціях. Функція вже доступна обмеженого кола американських блогерів, і її виявлення стало досить значним подією в промисловості.
Про інновацію першим повідомив консультант із соціальних медіа Метт Наварра, а потім інформацію офіційно підтвердив представник TikTok Закарі Кізер. Це свідчить про те, що боротьба з контентом, який видає одну людину за іншу, стає пріоритетом для гігантів соціальних мереж.
Як працює система захисту
Логіка захисту дуже проста: система сканує AI-контент, що публікується на платформі, і шукає збігу з особами авторів, які включили опцію захисту. Якщо алгоритм знаходить потенційний дипфейк, автору надходить повідомлення. Далі дії повністю в руках блогера він може подати скаргу на відео або аккаунт-порушник.
Важливий момент: все збудовано на добровільній основі. Ніхто не змушує авторів включати захист, і процес повністю під їх контролем.
Процес верифікації особистості
Щоб скористатися захистом, автору доведеться підтвердити особистість. TikTok використовує для цього сервіс Jumio - визнаний в промисловості провайдер рішень для верифікації. Процес включає:
- Перевірку посвідчення особи;
- Проходження селфі-верифікації у реальному часі;
- Порівняння біометричних даних з їх подальшим використанням виключно для пошуку дипфейків.
TikTok наголошує: копії документів не зберігаються на платформі, а зібрані біометричні дані використовуються лише для пошуку несанкціонованого контенту. Це важливе уточнення у контексті нинішніх суперечок щодо приватності.
Контекст: як суперники борються із проблемою
TikTok виявляється не першопрохідником - YouTube вже запропонував аналогічний інструмент для своїх повнолітніх авторів, а також для знаменитостей та їх представництв. Однак підхід TikTok виглядає більш продуманим з погляду етики та прозорості.
Це особливо помітно на тлі скандалу із Meta. Соціальна мережа нещодавно спробувала автоматично використовувати публічні фотографії користувачів Instagram для навчання свого AI-генератора Muse Image без попередньої згоди. Хвиля критики змусила компанію згорнути функцію лише за три дні. TikTok прямо протилежний шлях: участь добровільна, і кожен автор вирішує сам, чи потрібний йому такий захист.
Чому це важливо
Діпфейки давно вийшли за межі розваги і перетворилися на інструмент реальної загрози. Від імперсонації до фальсифікації компрометуючого контенту – спектр шкідливого використання зростає. Інструменти на кшталт запропонованого TikTok – це перший крок до того, щоб повернути контроль над своєю цифровою ідентичністю самим авторам.
Платформа показує, що можна будувати захист, одночасно поважаючи приватність користувачів і не повторюючи помилок конкурентів. Якщо експеримент на американському ринку пройде успішно, очікується розширення функції та інші регіони.
Джерело : The Verge