Google відкрила публічний детектор SynthID: сервіс знаходить невидимі мітки ШІ від Google, OpenAI і Nvidia

Google зробила свій інструмент для виявлення згенерованого медіаконтенту загальнодоступним у всьому світі. Тепер будь-який користувач може зайти на офіційний сайт SynthID, безкоштовно завантажити зображення, відеоролик або аудіофайл і перевірити, чи залишила в ньому цифровий підпис генеративна нейромережа. Інтерфейс сервісу працює прямо в браузері без обов’язкової реєстрації.

Технологію SynthID створила лабораторія Google DeepMind ще 2023 року. На відміну від звичних напівпрозорих логотипів у кутку екрана, система вбудовує у вихідний код медіафайлу стеганографічний водяний знак, невидимий для людського ока. За даними блогу Google, за допомогою цієї технології у світі вже промарковано понад 180 млрд зображень і відео, а також величезний масив аудіозаписів загальною тривалістю близько 240 тисяч років.

Галузевий стандарт замість закритої екосистеми

Ключовий крок нового релізу — відмова від корпоративної ізоляції. Детектор більше не прив’язаний виключно до фірмових моделей лінійки Gemini чи Imagen. Тепер алгоритм сканує й успішно розпізнає приховані метамітки, вбудовані сторонніми генеративними сервісами від OpenAI, Nvidia і південнокорейської Kakao. У найближчих оновленнях розробники обіцяють інтегрувати підтримку екосистеми Apple.

Цифровий відбиток спроєктовано так, щоб витримувати типові маніпуляції в соціальних мережах і графічних редакторах, зазначається в технічному описі DeepMind:

• на фотографіях знак зберігається після кадрування, накладення кольорових фільтрів, зміни контрастності, зменшення роздільності та агресивного стиснення алгоритмом JPEG;
• у відео мітки вшиваються безпосередньо в структуру окремих кадрів;
• у звукових доріжках код переживає конвертацію в MP3, зміну швидкості відтворення та додавання фонового шуму.

Чому це не універсальний визначник фейків

Потенційним користувачам важливо розуміти технічні межі роботи сервісу. SynthID не займається «детективним аналізом» анатомії пальців чи неприродних відблисків на зіницях, намагаючись угадати походження картинки за непрямими ознаками. Детектор виконує строго одне завдання: шукає конкретний криптографічний підпис стандарту SynthID.

Звідси випливає важливе обмеження: якщо система повідомляє, що водяний знак не знайдено, це аж ніяк не гарантує, що перед вами реальна зйомка. Картинку або дипфейк могли згенерувати моделі від Midjourney, Stable Diffusion чи чорні open-source мережі, які не вшивають метадані добровільно.

Утім, у Google наголошують, що пошук апаратної цифрової мітки дає значно менше хибнопозитивних спрацювань, ніж традиційні евристичні нейромережеві детектори, які регулярно звинувачують реальних художників і фотографів у використанні ШІ.