OpenAI розробляє систему водяних знаків для текстів, створених за допомогою ChatGPT, що допоможе виявляти матеріали, написані штучним інтелектом.
Про це повідомляє The Verge.
Йдеться про те, що ця технологія вже готова приблизно на 99,9%, однак компанія не поспішає її впроваджувати через внутрішні розбіжності у компанії.
Водяний знак OpenAI описується як налаштування того, як модель передбачає найімовірніші слова та фрази, які слідуватимуть за попередніми, створюючи шаблон, який можна виявити. Компанія з’ясувала, що водяні знаки не впливають на якість виведення тексту чатботом. Це може бути корисним для вчителів, які намагаються запобігти використанню ШІ для написання студентських завдань.
Однак всередині компанії є розбіжності про доцільність цієї технології. За даними опитування, проведеного компанією, більшість людей підтримують ідею інструменту виявлення ШІ, проте приблизно 30% користувачів заявили, що використовуватимуть програмне забезпечення менше, якщо впровадять водяні знаки.
Незважаючи на потенційні переваги, як-от захист від шахрайства, OpenAI також турбується про те, що використання водяних знаків може негативно вплинути на досвід користувачів, особливо для тих, хто не є носіями мови. Крім того, переформулювання тексту іншою моделлю може обійти водяні знаки.
Компанія також розглядає альтернативні методи, як-от вбудовування метаданих, які можуть бути менш суперечливими серед користувачів, але все ще перебувають на ранніх стадіях вивчення.
