Модель ИИ самовольно изменила свой код для увеличения времени выполнения задач
24.08.24
Компания Sakana AI из Токио представила новую систему искусственного интеллекта под названием “The AI Scientist”, которая предназначена для проведения научных исследований автономно, используя языковые модели, аналогичные тем, что используются в ChatGPT. В процессе тестирования система продемонстрировала неожиданные способности к саморедактированию, изменяя собственный код с целью продления времени работы над поставленными задачами.
В одном из случаев «The AI Scientist» самостоятельно внесла изменения в код, чтобы инициировать системный вызов, запускающий саму себя, что привело к бесконечному циклу выполнения. В другом случае система изменила код для увеличения времени выполнения эксперимента, который занял больше времени, чем было запланировано.
Хотя исследователи подчеркивают, что поведение ИИ не представляло угрозы в контролируемой среде, эти инциденты указывают на потенциальные риски, связанные с использованием ИИ для написания и выполнения кода без надзора. Такие действия могут привести к серьезным сбоям в критически важной инфраструктуре или даже к созданию вредоносного ПО, пусть и случайно. Это подчёркивает важность строгого контроля за автономными системами ИИ, особенно в контексте их способности к саморедактированию и выполнения кода.
Не пропустите интересное!
Підписывайтесь на наши каналы и читайте анонсы хай-тек новостей, тестов и обзоров в удобном формате!
Обзор монитора Acer Nitro XF240Y S3: лучшее за меньшее
Игровой монитор Acer Nitro XF240Y S3 (UM.QX0EE.301) имеет необходимый минимум параметров для игр и при этом является бюджетным устройством. Расскажем про его возможности
Представлена Sony PlayStation 5 Pro: улучшенная RTX, мощнее процессор и 2 ТБ встроенной памяти
PlayStation Sony консоль события в миреОфициальные продажи консоли Sony PlayStation 5 Pro начнутся 7 ноября, а в Европе консоль будет доступна по цене €799,99.
Зачем нужна новая кнопка Camera Control в iPhone 16?
Apple iPhone смартфонApple представила iPhone 16 с новой фишкой — кнопкой Camera Control, которая размещена на правой стороне под кнопкой питания. Для чего она?