OpenAI начнет добавлять невидимые водяные знаки в тексты, созданные с помощью ChatGPT и Codex. На первом этапе технология будет применяться в странах Евросоюза.
Об этом сообщила OpenAI. Нововведение планируют внедрить в течение ближайших недель для соответствующих текстовых ответов ChatGPT и Codex в ЕС.
Для маркировки компания разработала технологию textGrain. Она не добавляет в текст скрытые символы, пробелы или специальные знаки. Вместо этого система создает незаметный для человека статистический сигнал через выбор слов при генерации текста.
Специальный детектор сможет анализировать этот сигнал и определять наличие водяного знака OpenAI.
При этом сама компания предупреждает, что технология не дает стопроцентной гарантии. Короткие тексты распознаются хуже, а редактирование, перефразирование или перевод могут значительно ослабить сигнал.
Например, в одном из тестов OpenAI замена 10 процентов слов синонимами снизила вероятность обнаружения водяного знака примерно с 92 до 66 процентов. При замене четверти слов показатель снизился до 17 процентов.
Наличие метки также не позволит установить личность пользователя, его аккаунт или содержание запроса. Она лишь указывает на то, что система OpenAI могла участвовать в создании или обработке текста.
На первом этапе детектор не будет общедоступным. Получить к нему доступ смогут одобренные исследователи и экспертные организации.
OpenAI объясняет внедрение технологии требованиями закона Евросоюза об искусственном интеллекте. При запуске водяные знаки для текста не станут глобальной настройкой ChatGPT.
Для клиентов OpenAI API по всему миру возможность включить такую маркировку для отдельных моделей уже доступна добровольно.
Компания также использует технологии подтверждения происхождения для созданных искусственным интеллектом изображений и аудио.
