ChatGPT получил режим блокировки: OpenAI усиливает защиту пользователей

Компания OpenAI сообщила об официальном внедрении в функционал ChatGPT и другие сопутствующие технологические продукты специального режима блокировки под кодовым названием «Lockdown Mode». Это технологическое новшество выступает вспомогательным защитным инструментом, нацеленным на минимизацию рисков так называемых prompt injection (внедрений промптов) — класса угроз безопасности, ориентированных преимущественно на большие языковые ИИ-системы.

 Lockdown Mode в ChatGPT

Система безопасности Lockdown Mode представляет собой функциональное расширение-ограничитель, созданное в качестве ультимативного рубежа защиты инфраструктуры ИИ при атаках манипулятивного класса (внедрение сторонних директив). Хакеры практикуют промпт-инъекции с целью вынудить модель удаленно поделиться системными деталями переписки или конфиденциальной информацией, находящейся на защищенном терминале или в чат-памяти пользователя.

Новый Lockdown Mode работает на опережение угрозы окончательного захвата сеанса, целенаправленно накладывая ограничение на отправку исходящих фоновых веб-запросов со стороны чат-ботов во внешнюю среду, лишая потенциального вредоносного агента инструментов эксфильтрации персональных данных пользователя.

Технические ограничения

При включении Lockdown Mode ИИ сокращает часть полезного интерактивного взаимодействия, необходимого злоумышленнику для проработки сетевых обходов. Характеристики работы при переключении ползунка безопасности включают в себя:

• Отключение автономных интернет-иллюстраций: ChatGPT позволяет беспрепятственно работать с загружаемыми вручную локальными кадрами и создавать качественный арт с нуля, но лишается технической возможности загружать контент по адресам во всемирной паутине или размещать их как медиа во внутреннем чат-блоке.
• Изоляция внешнего анализа: Система безопасности автоматически запрещает внешнее обращение к сети за какими-либо автоматическими текстовыми/архивными скачиваниями, при этом документы или файлы локально загружать пользователям вручную никто не запретит.
• Заморозка глубоких сервисов: Дополнительные специализированные возможности, к которым относятся режимы глубоких автоматических исследований Deep Research и режим цифрового ИИ-ассистента Agent Mode, приостанавливают собственное существование вплоть до принудительного закрытия защищенной зоны Lockdown Mode.

Стоит также зафиксировать ключевые параметры: текущее введение защитного барьера никоим образом не вмешивается во встроенные элементы стандартной памяти виртуального наставника, не урезает опции свободного скачивания файлов и распространения (шаринга) лог-переписки. Административная ветка крупных групповых бизнес-лицензий всегда сохраняет абсолютную свободу выбора опций для своей сети в параметрах интерфейса.

Менеджер активных сессий — вспомогательное обновление кибербезопасности

Помимо запуска Lockdown Mode, инженеры компании OpenAI дополнительно оптимизировали функциональный стек ІТ-безопасности пользователей за счет внедрения встроенного интерактивного менеджера активных интернет-сессий. Он отражает исчерпывающую текущую активность: тип аппаратной системы устройства входа, точный установленный системный обозреватель браузера.

Диспетчер активности разрешает администратору выйти со своего локального смартфона сразу из всей экосистемы веб-аутентификаций за раз или точечно отключить «чужой» аккаунт в едином перечне. Закрытие логов детекции десктопного веб-сеанса на серверной платформе компании длится ориентировочно до 30 минут. При выявлении фактов подозрительной фишинг-активности инженеры техподдержки призывают обнулять пользовательский мастер-пароль.

Подключение функции

Опция контроля за скрытым кибермошенничеством бесплатно добавлена создателями в любые имеющиеся персональные учетные записи пользователей (даже не требуя подписки Plus-уровня). Схема запуска инструмента предельно прозрачна:

• Войдите в собственный пользовательский рабочий кабинет ChatGPT.
• Осуществите клик на вкладке пользовательских персональных опций «Настройки» (Settings).
• Переместитесь по системному окну к ветке регулировок подменю «Безопасность» (Security).
• Установите флажок или кликните по триггерной ссылке перевода в рабочее состояние режима блокировки Lockdown Mode, который доступен внутри секции продвинутой безопасности «Расширенная безопасность» (Advanced Security).