Логотип TikTok. Источник: TikTok
Новое оружие против синтетических видео
TikTok активно включается в борьбу с одной из самых острых проблем современного интернета — дипфейками. Платформа начала тестировать инструмент, который позволяет создателям контента добровольно защитить свою внешность от несанкционированного использования в AI-генерациях. Функция уже доступна для ограниченного круга американских блогеров, и её обнаружение стало достаточно значимым событием в индустрии.
Об инновации первым сообщил консультант по социальным медиа Мэтт Наварра, а затем информацию официально подтвердил представитель TikTok Закари Кизер. Это свидетельствует о том, что борьба с контентом, выдающим одного человека за другого, становится приоритетом для гигантов социальных сетей.
Как работает система защиты
Логика защиты предельно проста: система сканирует AI-контент, публикуемый на платформе, и ищет совпадения с лицами авторов, которые включили опцию защиты. Если алгоритм находит потенциальный дипфейк, автору приходит уведомление. Дальше действия полностью в руках блогера — он может подать жалобу на видео или аккаунт-нарушитель.
Важный момент: всё построено на добровольной основе. Никто не заставляет создателей включать защиту, и процесс полностью под их контролем.
Процесс верификации личности
Чтобы воспользоваться защитой, автору придётся подтвердить личность. TikTok использует для этого сервис Jumio — признанный в индустрии провайдер решений для верификации. Процесс включает:
- Проверку удостоверения личности;
- Прохождение селфи-верификации в реальном времени;
- Сравнение биометрических данных с их последующим использованием исключительно для поиска дипфейков.
TikTok подчеркивает: копии документов не хранятся на платформе, а собранные биометрические данные используются только для поиска несанкционированного контента. Это важное уточнение в контексте нынешних споров о приватности.
Контекст: как соперники борются с проблемой
TikTok оказывается не первопроходцем — YouTube уже предложил аналогичный инструмент для своих совершеннолетних авторов, а также для знаменитостей и их представительств. Однако подход TikTok выглядит более продуманным с точки зрения этики и прозрачности.
Это особенно заметно на фоне скандала с Meta. Социальная сеть недавно попыталась автоматически использовать публичные фотографии пользователей Instagram для обучения своего AI-генератора Muse Image — без предварительного согласия. Волна критики заставила компанию свернуть функцию всего за три дня. TikTok прямо противоположный путь: участие добровольное, и каждый автор решает сам, нужна ли ему такая защита.
Почему это важно
Дипфейки давно вышли за рамки развлечения и превратились в инструмент реальной угрозы. От имперсонации до фальсификации компрометирующего контента — спектр зловредного использования растёт. Инструменты вроде предложенного TikTok — это первый шаг к тому, чтобы вернуть контроль над своей цифровой идентичностью самим авторам.
Платформа демонстрирует, что можно строить защиту, одновременно уважая приватность пользователей и не повторяя ошибок конкурентов. Если эксперимент на американском рынке пройдёт успешно, можно ожидать расширения функции и на другие регионы.
Источник: The Verge