Фальшивые ученые и ИИ: журналисты раскрыли схему Research Gold

Сервис Research Gold, предлагавший подготовку научных рукописей, систематических обзоров и метаанализов, позиционировал себя как платформу с исключительно человеческими специалистами. Однако расследование 404 Media показало, что значительная часть сайта создана генеративным ИИ, а заявленные эксперты в большинстве случаев не имеют реальных следов научной деятельности.

Детали расследования

Издание 404 Media сообщает, что почти весь контент на сайте Research Gold является продуктом генеративного ИИ. Это касается как текстов, так и фотографий профилей «ученых». Эмануэль Майберг, попытавшийся связаться с компанией, столкнулся с тем, что в чатах и электронной переписке на все запросы отвечал агент на базе ИИ, который отказывался признавать свою природу и настойчиво пытался продать услуги платформы.

Имитация экспертного состава

На странице «Про нас» компания описывала якобы реальную команду экспертов. Среди них фигурировали:

• Доктор Елена Васкес, основательница, с 12-летним опытом синтеза доказательств в кардиологии и инфекционных заболеваниях.
• Доктор Мэй-Лин Чен, специализирующаяся на аналитических записках и грантовых заявках.

Ни один из восьми членов представленной команды не обладает следами научной деятельности, а поиск по их именам в базах данных академических публикаций не дает результатов.

Использование чужих имен

Более того, в отдельных разделах сайта Research Gold использовала фотографии и биографии реальных ученых. Журналисты выяснили, что профили брались из LinkedIn без ведома владельцев. Дженни Беррио, реальный специалист по синтезу данных, подтвердила, что не имеет никакого отношения к сервису. После того как к руководству сайта обратились СМИ, раздел с реальными людьми был оперативно удален.

В рамках своего эксперимента журналист отправил запрос на расчет стоимости для проекта под названием «Влияние ведения блога на детей от 0 до 5 лет». ИИ-«методолог» ответил автоматически, составив детальный счет на 1900 долларов США  Это демонстрирует готовность ИИ браться за любую тему ради получения прибыли.

Опасность для академического сообщества

Эксперты предупреждают, что использование подобных инструментов дискредитирует научный процесс. По словам Себастьяна Роуэна, аспиранта Университета Нью-Гемпшира, главная проблема генеративного ИИ — это склонность к галлюцинациям. Настоящее исследование требует критического осмысления, глубокой проверки источников и глубокой аналитики, на которые «обученные» чат-боты попросту неспособны.

История Research Gold демонстрирует одну из наиболее опасных сторон применения генеративного ИИ в научной сфере. Создание убедительных профилей, автоматические ответы и готовность системы продавать услуги создают иллюзию профессиональной экспертизы, которой на деле может не существовать. Подобные практики способны не только вводить клиентов в заблуждение, но и дополнительно осложнять работу научных журналов, которым и без того приходится бороться с растущим количеством ИИ-сгенерированных материалов.