Код красный: OpenAI добавит в ChatGPT функцию Trusted Contact

OpenAI объявила о запуске новой системы безопасности для ChatGPT под названием Trusted Contact. Речь идет о механизме экстренного уведомления доверенного лица в случаях, когда переписка пользователя с ИИ может указывать на высокий риск самоповреждения или тяжелое психологическое состояние.

Функция стала частью более широкой стратегии OpenAI по усилению механизмов защиты пользователей на фоне растущей популярности чат-ботов как инструмента для личного общения и эмоциональной поддержки.

ChatGPT сможет уведомить заранее выбранного человека

Суть новой системы заключается в том, что пользователь сможет заранее назначить доверенное лицо внутри настроек аккаунта. В случае, если алгоритмы ChatGPT зафиксируют в диалоге признаки потенциально опасного кризиса, сервис сможет автоматически отправить этому человеку уведомление.

В компании объясняют, что речь идет не о постоянном мониторинге всех разговоров, а о реагировании на сообщения, которые могут свидетельствовать о реальной угрозе безопасности пользователя. Среди таких сценариев — выраженные намерения причинить себе вред, признаки тяжелого эмоционального срыва или другие тревожные сигналы, связанные с психическим состоянием.

Trusted Contact будет работать исключительно по модели opt-in. Это означает, что функция не включается автоматически: пользователь сам принимает решение об активации системы и добровольно указывает контактные данные человека, которому доверяет.

OpenAI пытается связать цифровую помощь с реальной поддержкой

В OpenAI отмечают, что чат-боты все чаще становятся для пользователей пространством для обсуждения личных переживаний, тревоги и психологических проблем. Однако даже самые современные языковые модели не способны заменить профессиональную помощь или полноценную человеческую поддержку в кризисной ситуации.

Именно поэтому Trusted Contact рассматривается как инструмент, который должен стать мостом между цифровым взаимодействием и реальным вмешательством со стороны близких людей.

По словам компании, разработка функции велась совместно со специалистами в области психического здоровья и организациями, занимающимися предотвращением суицидов. Основная задача системы — повысить вероятность того, что человек получит помощь вовремя, особенно в случаях, когда стандартных рекомендаций чат-бота уже недостаточно.

Помимо уведомлений ChatGPT продолжит предлагать кризисные ресурсы

Даже после внедрения Trusted Contact система продолжит использовать уже существующие механизмы поддержки. В потенциально опасных диалогах ChatGPT по-прежнему будет рекомендовать пользователю обратиться в кризисные центры, на горячие линии психологической помощи или к профильным специалистам.

Сервис автоматически подбирает контакты экстренной поддержки с учетом региона пользователя, чтобы рекомендации оставались актуальными для конкретной страны или территории.

В OpenAI подчеркивают, что доверенный контакт не получает доступ ко всей переписке пользователя. Функция ограничивается только отправкой уведомления о возможной необходимости связаться с человеком и обратить внимание на его состояние.

Новая функция продолжает курс OpenAI на усиление контроля безопасности

Trusted Contact стала логичным продолжением предыдущих мер безопасности, которые компания начала внедрять еще раньше. В частности, OpenAI уже добавляла инструменты контроля для подростковых аккаунтов, позволяющие родителям получать уведомления при выявлении потенциально опасных ситуаций.

Теперь аналогичный подход распространяется и на взрослую аудиторию, но с упором на добровольность и персональный контроль над настройками конфиденциальности.

Появление подобных функций отражает более широкий тренд внутри технологической индустрии. На фоне стремительного распространения генеративного ИИ компании вынуждены искать новые механизмы ответственности за эмоциональное и психологическое взаимодействие пользователей с цифровыми сервисами.

В OpenAI считают, что ИИ постепенно перестает быть исключительно рабочим инструментом и становится частью повседневной коммуникации миллионов людей. Именно поэтому системы реагирования на кризисные ситуации начинают занимать все более важное место в развитии подобных платформ.

По данным компании, внедрение Trusted Contact будет происходить поэтапно и постепенно станет доступно пользователям ChatGPT в разных странах.