Вікіпедія обмежила переклад статей за допомогою ШІ через “галюцинації”

Редактори «Вікіпедії» запровадили нові обмеження частини авторів, які займалися перекладом статей за допомогою інструментів штучного інтелекту. Приводом стали численні помилки в таких матеріалах, пов’язані з так званими галюцинаціями ШІ. Про ситуацію повідомляє видання 404 Media.

Проблеми виникли навколо організації Open Knowledge Association (OKA), яка виплачує винагороду стороннім авторам за переклад статей різними мовами.

Помилки в перекладах та претензії редакторів

За даними редакторів Вікіпедії, частина перекладів виконувалася з використанням великих мовних моделей, включаючи Gemini і ChatGPT. Раніше у проекті також застосовували Grok, проте згодом від нього відмовилися через недостатню надійність.

Редактор «Вікіпедії» Ільяс Лебле розповів, що під час вибіркової перевірки кількох статей одразу виявив низку помилок.

За його словами, у деяких матеріалах було замінено джерела, а також додано пропозиції без посилань та пояснень. В одному з випадків до статті про вибори до Сенату Франції 1879 року потрапили абзаци, взяті з матеріалів, не пов’язаних із темою статті.

Редактори зазначають, що проблеми пов’язані не лише із роботою ШІ. Значну роль відіграв людський чинник. За їхніми словами, частина авторів погано володіє англійською мовою, не перевіряє результати перекладу та не додає необхідних джерел.

Нові обмеження для перекладачів

У результаті редактори вирішили запровадити обмеження для окремих авторів, які співпрацювали з OKA. При цьому повної заборони на подібні переклади вводити не стали.

Наразі для таких перекладачів діє система попереджень. Якщо автор отримує чотири попередження за неякісний контент протягом шести місяців, п’яте автоматично призведе до блокування.

Матеріали, створені такими авторами, можуть бути видалені, якщо інший редактор з підтвердженою репутацією не візьме на себе відповідальність за їхню перевірку.

Як влаштована система оплати

Open Knowledge Association пропонує перекладачам оплату у розмірі 397 доларів на місяць за роботу до 40 годин на тиждень. В описі вакансії також зазначено, що очікуваний обсяг роботи становить від 5 до 20 статей на тиждень, залежно від їх розміру.

В організації стверджують, що пріоритетом залишається не кількість статей, а час, витрачений на роботу та якість матеріалів.

Після проблем OKA почала впроваджувати додатковий етап перевірки перекладених статей за допомогою окремої мовної моделі. Проте самі редактори «Вікіпедії» зазначають, що перевірка контенту, створеного ШІ, з використанням іншого ШІ не виглядає надійним рішенням.