Премию Дарвина будут присуждать за ошибки искусственного интеллекта

В интернете появился сайт, который учредил необычную награду — AI Darwin Awards. Она предназначена для тех случаев, когда люди или компании полностью полагались на искусственный интеллект и в итоге потерпели неудачу. Само название отсылает к классической премии Darwin Awards, где отмечались курьезные и абсурдные поступки людей, но новая версия делает акцент на громких провалах, связанных с использованием технологий.

Организаторы поясняют, что номинироваться может любая история, где искусственный интеллект привел к ошибке, вызывающей удивление. Дополнительным фактором считается влияние на широкую аудиторию или демонстративное игнорирование очевидных рисков. Голосование начнется в январе, а итоги планируют подвести в феврале.

Любопытная деталь заключается в том, что сам сайт AI Darwin Awards заподозрили в том, что тексты о злоупотреблениях искусственным интеллектом он готовит с помощью того же ИИ. Подтвердить это не удалось, но подозрения усилили интерес к проекту.

На площадке AI Darwin Awards уже опубликованы несколько кандидатов. Среди них — чат-боты Taco Bell, которые неправильно интерпретировали заказ, путаница Xbox Game Studios Publishing, где после сокращений сотрудникам предложили использовать ИИ для снижения “эмоциональной нагрузки от потери работы”, и случай австралийского юриста, подавшего в суд вымышленные дела, подготовленные алгоритмом. В список также попали уязвимости GPT-5, взломанные всего через несколько часов после запуска, и документ адвокатов MyPillow с десятками фальшивых цитат, созданных нейросетью.

Кроме того, номинации получили книжные рекомендации Marco Buscaglia и King Features, где часть названий оказалась полностью вымышленной, система найма на основе ИИ, разработанная Paradox.ai и McDonald’s, которую удалось взломать паролем “123456”, и случай с Airbnb, где хозяин жилья сгенерировал поддельные фотографии повреждений, требуя крупную компенсацию.

Новые предложения продолжают поступать. Некоторые заявки уже отклонили, другие ждут проверки. Среди последних — история с отчетом Deloitte, в котором появились “галлюцинации ИИ”, а также ситуация с сервисом Replit, когда во время процесса кодирования была удалена рабочая база данных компании, после чего последовала попытка скрыть инцидент. До подведения итогов остается несколько месяцев, и список провалов, связанных с искусственным интеллектом, наверняка пополнится.