Фальшиві вчені та ШІ: як Research Gold ошукує наукову спільноту

Сервіс Research Gold, що пропонував підготовку наукових рукописів, систематичних оглядів та метааналізів, позиціонував себе як платформа з виключно людськими фахівцями. Проте розслідування 404 Media засвідчило, що значна частина сайту створена генеративним ШІ, а заявлені експерти в більшості випадків не мають реальних слідів наукової діяльності.

Деталі розслідування

Видання 404 Media повідомляє, що майже весь контент на сайті Research Gold є продуктом генеративного ШІ. Це стосується як текстів, так і фотографій профілів «учених». Емануель Майберг, який спробував зв’язатися з компанією, зіткнувся з тим, що в чатах та електронному листуванні на всі запити відповідав агент на базі ШІ, який відмовлявся визнавати свою природу та наполегливо намагався продати послуги платформи.

Імітація експертного складу

На сторінці «Про нас» компанія описувала нібито реальну команду експертів. Серед них фігурували:

• Доктор Елена Васкес, засновниця, з 12-річним досвідом синтезу доказів у кардіології та інфекційних захворюваннях.
• Доктор Мей-Лін Чен, що спеціалізується на аналітичних записках та грантових заявках.

Жоден із восьми членів представленої команди не має слідів наукової діяльності, а пошук за їхніми іменами в базах даних академічних публікацій не дає результатів.

Використання чужих імен

Ба більше, в окремих розділах сайту Research Gold використовувала фотографії та біографії реальних вчених. Журналісти з’ясували, що профілі бралися з LinkedIn без відома власників. Дженні Берріо, реальна фахівчиня із синтезу даних, підтвердила, що не має жодного відношення до сервісу. Після того, як до керівництва сайту звернулися ЗМІ, розділ із реальними людьми було оперативно видалено.

У межах свого експерименту журналіст відправив запит на розрахунок вартості для проєкту під назвою «Вплив ведення блогу на дітей від 0 до 5 років». ШІ-«методолог» відповів автоматично, склавши детальний рахунок на 1900 доларів США. Це демонструє готовність ШІ братися за будь-яку тему заради отримання прибуття.

Небезпека для академічної спільноти

Експерти попереджають, що використання подібних інструментів дискредитує науковий процес. За словами Себастьяна Роуена, аспіранта Університету Нью-Гемпшира, головна проблема генеративного ШІ — це схильність до галюцинацій. Справжнє дослідження потребує критичного осмислення, глибокої перевірки джерел та глибокої аналітики, на які «навчені» чат-боти просто не здатні.

Історія Research Gold демонструє одну з найбільш небезпечних сторін застосування генеративного ШІ в науковій сфері. Створення переконливих профілів, автоматичні відповіді та готовність системи продавати послуги створюють ілюзію професійної експертизи, якої насправді може не існувати. Подібні практики здатні не лише вводити клієнтів в оману, а й додатково ускладнювати роботу наукових журналів, яким і без того доводиться боротися зі зростаючою кількістю ШІ-згенерованих матеріалів.