Логотип OpenAI. Джерело: OpenAI
OpenAI почне додавати невидимий цифровий водяний знак до тексту та коду, які генеруються її моделями в Європейському Союзі. Компанія робить це для виконання вимог нового законодавства ЄС щодо прозорості використання штучного інтелекту.
Що відомо
Для маркування OpenAI використовує власну систему textGrain. Вона додає до вибору слів непомітний статистичний сигнал, який спеціальний детектор може виявити та визначити, чи був текст згенерований ШІ.
За даними компанії, технологія за ефективністю відповідає або перевершує інші підходи, зокрема SynthID для тексту. Водночас OpenAI зазначає, що надійність виявлення залежить від типу контенту. Для коротких текстів показник становить близько 80%, а математичний контент виявляти складніше. Редагування матеріалу також може знизити точність детектора.
На графіку показано, як редагування тексту впливає на ефективність виявлення цифрового водяного знака. Ілюстрація: OpenAI
Водяний знак автоматично застосовуватиметься до відповідного тексту ChatGPT і коду Codex у ЄС. Для окремих моделей користувачі за межами регіону зможуть добровільно увімкнути цю функцію. OpenAI також планує відкрити технологію у форматі open source.
Доступ до детектора спочатку отримають лише схвалені дослідники та спеціалізовані організації. Він не дозволятиме встановити особу користувача, отримати доступ до його запитів або переглянути історію розмов.
Вимога випливає зі статті 50 AI Act. Вона передбачає, що текст, створений генеративними ШІ-системами, має бути ідентифікованим у машинозчитуваному форматі. Для компаній, які вже працюють на ринку, крайній термін виконання цієї вимоги — 2 грудня.
Джерело: OpenAI