Исследование OpenAI показало, что чат GPT-4 может помогать в создании биологических угроз

Исследование, проведенное компанией OpenAI над языковой моделью GPT-4, показало, что эта языковая модель (LLM) может увеличить доступ пользователей к опасной информации о биологических данных.

Согласно сообщению OpenAI, анализ данных исследования показал, что эксперты, имевшие доступ к (исключительно для исследований) GPT-4, улучшили свои знания о биологических опасностях на 88% в вопросах точности и полноты выполнения задач. Студенты-биологи также росли в знаниях, хотя в меньшей степени с улучшением на 25% и 41% соответственно.

Участники исследования были распределены между основной и контрольной группами, при этом первые имели доступ в GPT-4 и Интернет, а вторые — только в Интернет. Модель GPT-4, предназначенная только для исследований, позволяла отвечать на запросы, касающиеся биологического оружия, но не опасной информации.

Участники с доступом к языковой модели демонстрировали незначительное улучшение в точности и полноте выполнения задач по сравнению с контрольной группой. Однако OpenAI указывает, что результаты исследования не окончательны из-за недостаточной статистической значимости размера эффекта.

Компания также отметила, что их исследование подчеркнуло необходимость дополнительного изучения пороговых значений производительности, указывающих на серьезное увеличение риска.