OpenAI начнёт добавлять в тексты, сгенерированные ChatGPT, невидимый водяной знак по технологии textGrain. По заявлению компании, внедрение займёт несколько недель, а первыми новую метку получат страны Евросоюза.
Метка работает на уровне статистики: она меняет вероятность выбора слов и токенов при генерации текста. По данным OpenAI, по этой метке нельзя определить пользователя, его аккаунт, конкретный запрос или переписку с ChatGPT.
Зачем нужна метка
Причиной внедрения стал закон об искусственном интеллекте, действующий в ЕС: он требует маркировать контент, созданный ИИ. Водяной знак позволяет отличать машинный текст от написанного человеком, не меняя содержание ответа.
Кого касается
Изменение затронет пользователей ChatGPT в странах Евросоюза — именно там начнёт действовать технология. О сроках и географии распространения метки за пределами ЕС OpenAI пока не сообщает.