Google зробила доступною для розробників технологію SynthID Text , що дозволяє додавати «водяні знаки» до текстів, згенерованих штучним інтелектом, і виявляти їх. Тепер цей інструмент можна завантажити з платформи Hugging Face або скористатися ним через оновлений «Responsible GenAI Toolkit» від Google.
SynthID Text допоможе розробникам ідентифікувати ШІ-контент без шкоди для його якості
SynthID Text працює шляхом корекції ймовірностей для окремих слів або символів (токенів), що генеруються моделями, не впливаючи на точність або швидкість роботи ШІ. У результаті формується патерн оцінок, який стає своєрідним цифровим водяним знаком. Цей метод залишається ефективним навіть після редагування або часткової модифікації тексту.
Google визнає, що технологія має свої обмеження, особливо коли йдеться про короткі тексти або точні відповіді на запити. Наприклад, при запитах на зразок «Яка столиця Франції?» можливості для корекції обмежені, оскільки необхідно зберегти фактичну точність.
SynthID вже інтегрована в моделі Gemini і широко використовується в нових продуктах компанії. Її масове впровадження залишається актуальним, зокрема в контексті нових законодавчих вимог щодо маркування контенту, згенерованого ШІ, які вже з’явилися в Китаї та Каліфорнії.
