Google представила SynthID Text, технологию, позволяющую разработчикам добавлять водяные знаки и обнаруживать текст, созданный генеративными ИИ-моделями. SynthID Text доступен для скачивания на платформе Hugging Face и в обновленном наборе инструментов Responsible GenAI Toolkit от Google. Технология работает путем изменения вероятности генерации токенов, что создает уникальный паттерн, служащий водяным знаком. Этот паттерн помогает определить, был ли текст создан ИИ или другими источниками. 
Что ещё известно
Today, we’re open-sourcing our SynthID text watermarking tool through an updated Responsible Generative AI Toolkit.
Available freely to developers and businesses, it will help them identify their AI-generated content. 🔍
Find out more → https://t.co/n2aYoeJXqn pic.twitter.com/4uRKYaz57Y
— Google DeepMind (@GoogleDeepMind) October 23, 2024
Google утверждает, что качество, точность и скорость генерации текста не страдают, даже если текст был изменен или переведен. Однако технология имеет ограничения, особенно при работе с короткими текстами или ответами на фактические вопросы. В будущем возможно введение обязательных водяных знаков для контента, созданного ИИ, как это уже сделано в Китае.
Это нововведение имеет важность, так как согласно докладу Правоохранительного агентства Европейского союза, к 2026 году до 90% онлайн-контента может быть создано с помощью ИИ, что спровоцирует новые вызовы для правоохранительных органов в связи с дезинформацией, пропагандой, мошенничеством и обманом. Исследование показывает, что уже сегодня около 60% всех текстов в интернете могут быть произведены искусственным интеллектом, что обусловлено широким применением ИИ-переводчиков.
Источник: @GoogleDeepMind, Tech Crunch