Google SynthID - водни знаци за AI текст, снимки и видео
Google DeepMind пуснаха SynthID - система за вграждане на невидими водни знаци в съдържание, генерирано от техните AI модели. Работи за текст (Gemini), изображения (Imagen), видео (Veo) и аудио (Lyria). Тук разглеждаме как точно функционира, къде помага и къде не.
Съдържание
Как SynthID маркира текст
Когато моделът създава текст, той избира всяка следваща дума от списък с вероятни кандидати. SynthID леко променя тези вероятности по предварително зададен модел. Промяната е достатъчно малка, че читателят не я забелязва. Но специализиран софтуер може да засече модела и да определи, че текстът идва от Gemini.
Google вградиха SynthID в Gemini през 2024 г. Милиони потребители вече получават маркиран текст, без да го знаят.
Как работи за изображения и видео
За снимки от Imagen системата вгражда невидим воден знак директно в пикселите. Водният знак оцелява при resize, компресия и лека редакция. За видео от Veo подходът е подобен - маркерът се разпределя кадър по кадър.
За аудио от Lyria watermark-ът се вгражда в звуковата вълна.
Голямото ограничение
SynthID работи само за Google продукти. Не може да засече текст от ChatGPT, Claude или друг модел. Ако подадете текст от GPT-4 на SynthID детектора, резултатът ще е "не знам" - защото Google не са вградили watermark в чуждия модел.
Същото важи за снимки от DALL-E или Midjourney. SynthID търси собствения си воден знак и нищо друго.
Проблемът с точността
Изследователи от различни университети тестваха AI детектори и watermarking системи. Резултатите са смесени:
- При изцяло AI-генериран текст - засичането работи добре
- При текст, редактиран от човек след генерирането - грешките се увеличават
- При кратки текстове (под 200 думи) - надеждността пада
Учени от University of Reading направиха интересен опит: създадоха фалшиви студентски профили и подадоха AI-генерирани задачи. 94% от тях не бяха засечени от съществуващите инструменти.
Изследването от University of Florida
Проф. Yuheng Bu от University of Florida работи по нов подход. Неговият метод прилага watermark само върху част от текста, а не върху целия. Така:
- Качеството на текста остава по-високо
- Водният знак е по-трудно да бъде премахнат чрез парафразиране
- Работи с частен ключ - само създателят на watermark-а може да го засече
Кой държи ключа
Тук идва трудният въпрос. Ако само OpenAI или Google могат да проверят водните знаци, обикновеният потребител зависи от тях. Учител, който иска да провери домашна работа, трябва да разчита на API на съответната компания. Независима проверка не е възможна.
Проф. Bu предлага изграждане на цялостна система за разпространение на ключове, но засега това е по-скоро идея за бъдещето.
SynthID срещу лексикален анализ
Watermarking и лексикален анализ са два различни подхода за разпознаване на AI текст.
Watermarking (SynthID, OpenAI) - работи само за конкретен модел, изисква ключ, може да се заобиколи с парафразиране.
Лексикален анализ (като AI Detector) - търси стилистични и лексикални маркери, работи с текст от всеки модел, не зависи от доставчика.
Всеки подход има плюсове и минуси. Watermarking дава по-точен резултат, когато текстът е непроменен, но губи ефект при редакция. Лексикалният анализ е по-гъвкав, но резултатът е вероятностен, а не категоричен.
Има ли единен стандарт за текстов watermark
Не. Google ползват SynthID, OpenAI имат собствен метод, Meta работят по трети. Всеки разпознава само своето. Изследователи от академичната общност настояват за единна система, но компаниите не са постигнали съгласие.
За изображенията C2PA вече работи като отворен стандарт с подкрепата на Adobe, Microsoft и OpenAI. За текста такъв стандарт не съществува и не се очаква скоро.