Дослідження OpenAI показало, що чат GPT-4 може допомагати у створенні біологічних загроз

Дослідження, проведене компанією OpenAI над мовною моделлю GPT-4, показало, що ця мовна модель (LLM) може збільшити доступ користувачів до небезпечної інформації щодо біологічних даних.

Згідно з повідомленням OpenAI, аналіз даних дослідження показав, що експерти, які мали доступ до (виключно для досліджень) GPT-4, покращили свої знання про біологічні небезпеки на 88% у питаннях точності та повноти виконання завдань. Студенти-біологи також зростали у знаннях, хоча меншою мірою з покращенням на 25% та 41% відповідно.

Учасники дослідження були розподілені між основною та контрольною групами, при цьому перші мали доступ до GPT-4 та Інтернету, а другі – лише до Інтернету. Модель GPT-4, призначена лише для досліджень, дозволяла відповідати на запити щодо біологічної зброї, але не небезпечної інформації.

Учасники з доступом до мовної моделі демонстрували незначне поліпшення точності та повноти виконання завдань порівняно з контрольною групою. Однак OpenAI вказує, що результати дослідження не є остаточними через недостатню статистичну значущість розміру ефекту.

Компанія також зазначила, що їх дослідження наголосило на необхідності додаткового вивчення порогових значень продуктивності, що вказують на серйозне збільшення ризику.