Википедия ограничила перевод статей через ИИ из-за «галлюцинаций»

Редакторы «Википедии» ввели новые ограничения для части авторов, которые занимались переводом статей с помощью инструментов искусственного интеллекта. Поводом стали многочисленные ошибки в таких материалах, связанные с так называемыми «галлюцинациями» ИИ. О ситуации сообщает издание 404 Media.

Проблемы возникли вокруг организации Open Knowledge Association (OKA), которая выплачивает вознаграждение сторонним авторам за перевод статей на разные языки.

Ошибки в переводах и претензии редакторов

По данным редакторов «Википедии», часть переводов выполнялась с использованием больших языковых моделей, включая Gemini и ChatGPT. Ранее в проекте также применяли Grok, однако впоследствии от него отказались из-за недостаточной надёжности.

Редактор «Википедии» Ильяс Лебле рассказал, что при выборочной проверке нескольких статей сразу обнаружил ряд ошибок.

По его словам, в некоторых материалах были заменены источники, а также добавлены предложения без ссылок и объяснений. В одном из случаев в статью о выборах в Сенат Франции 1879 года попали абзацы, взятые из материалов, не связанных с темой статьи.

Редакторы отмечают, что проблемы связаны не только с работой ИИ. Значительную роль сыграл человеческий фактор. По их словам, часть авторов плохо владеет английским языком, не проверяет результаты перевода и не добавляет необходимые источники.

Новые ограничения для переводчиков

В результате редакторы решили ввести ограничения для отдельных авторов, сотрудничавших с OKA. При этом полный запрет на подобные переводы вводить не стали.

Теперь для таких переводчиков действует система предупреждений. Если автор получает четыре предупреждения за некачественный контент в течение шести месяцев, пятое автоматически приведёт к блокировке.

Материалы, созданные такими авторами, могут быть удалены, если другой редактор с подтверждённой репутацией не возьмёт на себя ответственность за их проверку.

Как устроена система оплаты

Open Knowledge Association предлагает переводчикам оплату в размере 397 долларов в месяц за работу до 40 часов в неделю. В описании вакансии также указано, что ожидаемый объём работы составляет от 5 до 20 статей в неделю в зависимости от их размера.

В организации утверждают, что приоритетом остаётся не количество статей, а время, затраченное на работу, и качество материалов.

После возникших проблем OKA начала внедрять дополнительный этап проверки переведённых статей с помощью отдельной языковой модели. Однако сами редакторы «Википедии» отмечают, что проверка контента, созданного ИИ, с использованием другого ИИ не выглядит надёжным решением.