OpenAI в ближайшие недели начнет добавлять невидимые водяные знаки в текстовые ответы ChatGPT и Codex в Евросоюзе. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание Kursiv Media.
Маркировка поможет определить, использовались ли инструменты компании при создании текста, говорится в сообщении OpenAI.
Первый этап внедрения
На первом этапе нововведение затронет пользователей всех тарифных планов в ЕС, но будет применяться только к текстам, подходящим для маркировки. Вводить ее по умолчанию во всем мире компания пока не планирует. Клиенты API — интерфейса для подключения моделей к сторонним сервисам — уже могут добровольно включить водяные знаки для отдельных моделей независимо от страны.
Технология textGrain
Технология OpenAI под названием textGrain незаметно корректирует выбор слов и их частей при генерации ответа. В результате в тексте возникает статистический рисунок, который может распознать специальный детектор.
Для читателя водяной знак невидим: система не добавляет скрытые символы, необычные пробелы или знаки препинания. Маркировка встроена в сам подбор слов и может сохраняться при копировании текста. По данным компании, ее влияние на скорость работы моделей незначительно, а тесты не выявили существенного ухудшения качества ответов.
Доступ к детектору
На старте детектор не будет общедоступным. Доступ к нему предоставят одобренным исследователям и экспертным организациям, которые помогут оценить надежность технологии.
При этом обнаруженный водяной знак не раскрывает личность пользователя, его запросы или переписку. Он также не показывает, какой вклад внес человек в подготовку текста, и не подтверждает достоверность информации.
Ограничения технологии
OpenAI признает ограничения технологии. Короткие тексты и ответы с небольшим выбором формулировок сложнее проверять. Существенная редактура, пересказ или перевод могут ослабить маркировку и сделать ее незаметной для детектора.
Поэтому отсутствие водяного знака не доказывает, что текст написал человек. Система также может ошибочно обнаружить маркировку там, где ее нет.
Соответствие закону ЕС
В OpenAI объяснили внедрение необходимостью соблюдать европейский закон об искусственном интеллекте — EU AI Act, предусматривающий машиночитаемую маркировку сгенерированного контента.