OpenAI притримує «антиреферат»
У OpenAI вже два роки є інструмент, який може зі стовідсотковою точністю визначати, чи був текст створений за допомогою штучного інтелекту, наприклад, у курсових роботах. Проте компанія не поспішає його запускати, побоюючись втратити користувачів. За даними The Wall Street Journal, запуск цього інструменту може призвести до зниження активності у 30% користувачів, адже багато хто вважає, що він може давати хибні результати, - пише wsj
Суть інструменту полягає у зміні ваги мовної моделі, що створює своєрідний «водяний знак», непомітний для людини, але розпізнаваний алгоритмом. Проте компанія стикається з етичними та алгоритмічними викликами. Наприклад, обійти такий захист можна через машинний переклад тексту іншою мовою. Наразі обговорюється надання доступу до цього інструменту лише освітнім закладам.
Вчителі у США вже стурбовані використанням штучного інтелекту учнями: 59% педагогів вважають, що їхні учні активно користуються такими інструментами. У відповідь на це, освітяни змінюють підходи до завдань, щоб ускладнити роботу алгоритмів, наприклад, додаючи специфічні вимоги, які складно відтворити за допомогою ІІ.
OpenAI поки що не змогла створити універсальний інструмент для розпізнавання ІІ-текстів. Попередня спроба з AI Classifier виявилася неуспішною, адже він міг розпізнати лише чверть таких текстів і часто давав хибні результати. Проте компанія не припиняє роботи в цьому напрямку та планує впровадити новий інструмент, можливо, вже до кінця цього року.
Що буде далі? Ймовірно, замість «водяного знака» OpenAI запропонує альтернативний підхід, одночасно просуваючи ідею відповідального використання штучного інтелекту.
Джерело
- Войдите, чтобы оставлять комментарии
