Ватикан вступил в спор с ИИ-детекторами из-за первой энциклики Льва XIV

После публикации своей первой энциклики Magnifica Humanitas Папа Римский Лев XIV неожиданно оказался в центре дискуссии о применении искусственного интеллекта. Поводом стали предположения, что документ, посвященный человеческому достоинству в эпоху развития ИИ, мог быть полностью или частично создан при помощи нейросетей.

Чтобы снять возникшие вопросы, Ватикан инициировал независимую проверку происхождения текста, обратившись к компании, которая занимается подтверждением авторства материалов и их происхождения без использования генеративного ИИ.

Первые проверки дали неоднозначный результат

Обсуждение началось после анализа текста одним из наиболее известных сервисов обнаружения ИИ-контента — Pangram Labs. Сначала система отметила несколько публикаций из официального аккаунта Папы как материалы с вероятными признаками машинной генерации. Позже аналогичную проверку прошла и сама энциклика.

По итогам анализа сервис пришел к выводу, что большая часть документа, вероятнее всего, написана человеком, однако некоторые отдельные фрагменты получили высокую вероятность того, что при их создании мог использоваться искусственный интеллект.

Похожую оценку высказал исследователь Линч Чжан. При этом он предположил, что если нейросети и применялись, то речь могла идти не о работе самого понтифика, а о вспомогательной подготовке материалов сотрудниками Ватикана.

Ватикан обратился к независимой сертификации

Несколько месяцев Святой Престол никак не реагировал на появившиеся обвинения. Позднее было принято решение провести дополнительную проверку через компанию Proudly Human, которая специализируется на подтверждении того, что тексты были подготовлены без участия генеративных моделей.

Для проведения анализа эксперты получили подборку прежних выступлений, обращений и документов Льва XIV. Эти материалы использовались как эталон авторского стиля, с которым сравнивалась энциклика Magnifica Humanitas.

Кроме стилометрического анализа процедура предусматривала подтверждение личности автора и официальную декларацию, согласно которой искусственный интеллект не использовался при создании первого варианта документа и не писал отдельные предложения или абзацы итоговой версии.

После завершения проверки Proudly Human выдала заключение, согласно которому энциклика, а также тексты из сборника Maps of Hope полностью созданы человеком.

Проверка тоже не обходится без искусственного интеллекта

Примечательно, что сама процедура верификации также основана на использовании технологий ИИ. В Proudly Human объясняют, что применяют несколько специализированных моделей для анализа стилистики, грамматики и языковых особенностей документов. Затем результаты объединяются собственным алгоритмом компании, который оценивает вероятность человеческого авторства.

Таким образом, искусственный интеллект в данном случае используется не для создания текста, а как инструмент экспертной проверки.

Ошибки ИИ-детекторов остаются серьезной проблемой

История вокруг энциклики вновь привлекла внимание к вопросу надежности современных систем распознавания ИИ-контента. Несмотря на широкое распространение подобных сервисов, они продолжают допускать ложные срабатывания.

Разработчики утверждают, что сейчас вероятность подобного сбоя составляет примерно один случай на десять тысяч проверок. Тем не менее история с энцикликой Льва XIV показывает, что даже самые известные ИИ-детекторы пока не способны гарантировать безошибочный результат, а окончательный вывод зачастую зависит не только от алгоритмов, но и от выбранной методики проверки.