Код червоний: OpenAI додасть до ChatGPT функцію Trusted Contact

OpenAI оголосила про запуск нової системи безпеки для ChatGPT під назвою Trusted Contact. Йдеться про механізм екстреного повідомлення довіреної особи у випадках, коли листування користувача з ШІ може вказувати на високий ризик самоушкодження або тяжкий психологічний стан.

Функція стала частиною ширшої стратегії OpenAI щодо посилення механізмів захисту користувачів на тлі популярності чат-ботів, що зростає, як інструменту для особистого спілкування та емоційної підтримки.

ChatGPT зможе повідомити заздалегідь обрану людину

Суть нової системи полягає в тому, що користувач зможе заздалегідь призначити довірену особу всередині налаштувань облікового запису. Якщо алгоритми ChatGPT зафіксують у діалозі ознаки потенційно небезпечної кризи, сервіс зможе автоматично надіслати цій людині повідомлення.

У компанії пояснюють, що йдеться не про постійний моніторинг усіх розмов, а про реагування на повідомлення, які можуть свідчити про реальну загрозу безпеці користувача. Серед таких сценаріїв — виражені наміри заподіяти собі шкоди, ознаки тяжкого емоційного зриву чи інші тривожні сигнали, пов’язані з психічним станом.

Trusted Contact працюватиме виключно за моделлю opt-in. Це означає, що функція не включається автоматично: користувач сам приймає рішення про активацію системи та добровільно вказує контактні дані людини, якій довіряє.

OpenAI намагається пов’язати цифрову допомогу з реальною підтримкою

В OpenAI відзначають, що чат-боти все частіше стають для користувачів простором для обговорення особистих переживань, тривоги та психологічних проблем. Однак навіть найсучасніші мовні моделі не здатні замінити професійну допомогу чи повноцінну людську підтримку у кризовій ситуації.

Саме тому Trusted Contact розглядається як інструмент, який має стати мостом між цифровою взаємодією та реальним втручанням з боку близьких людей.

За словами компанії, розробка функції велася спільно з фахівцями в галузі психічного здоров’я та організаціями, що займаються запобіганням суїцидам. Основне завдання системи – підвищити ймовірність того, що людина отримає допомогу вчасно, особливо у випадках, коли стандартних рекомендацій чат-бота вже недостатньо.

Крім повідомлень ChatGPT продовжить пропонувати кризові ресурси

Навіть після впровадження Trusted Contact система продовжить використовувати вже існуючі механізми підтримки. У потенційно небезпечних діалогах ChatGPT, як і раніше, рекомендуватиме користувачеві звернутися до кризових центрів, на гарячі лінії психологічної допомоги або до профільних фахівців.

Сервіс автоматично підбирає контакти екстреної підтримки з урахуванням регіону користувача, щоб рекомендації залишалися актуальними для конкретної країни чи території.

В OpenAI наголошують, що довірений контакт не отримує доступ до всього листування користувача. Функція обмежується лише надсиланням повідомлення про можливу необхідність зв’язатися з людиною та звернути увагу на її стан.

Нова функція продовжує курс OpenAI на посилення контролю безпеки

Trusted Contact стала логічним продовженням попередніх заходів безпеки, які компанія почала впроваджувати ще раніше. Зокрема, OpenAI вже додавала інструменти контролю для підліткових облікових записів, що дозволяють батькам отримувати повідомлення при виявленні потенційно небезпечних ситуацій.

Тепер аналогічний підхід поширюється і на дорослу аудиторію, але з упором на добровільність та персональний контроль над налаштуваннями конфіденційності.

Поява подібних функцій відбиває ширший тренд усередині технологічної індустрії. На тлі стрімкого поширення генеративного ІІ компанії змушені шукати нові механізми відповідальності за емоційну та психологічну взаємодію користувачів із цифровими сервісами.

В OpenAI вважають, що ШІ поступово перестає бути виключно робочим інструментом і стає частиною повсякденної комунікації мільйонів людей. Саме тому системи реагування на кризові ситуації починають займати дедалі важливіше місце у розвитку подібних платформ.

За даними компанії, впровадження Trusted Contact відбуватиметься поетапно і поступово стане доступним користувачам ChatGPT у різних країнах.