Модель ИИ самовольно изменила свой код для увеличения времени выполнения задач
24.08.24
Компания Sakana AI из Токио представила новую систему искусственного интеллекта под названием “The AI Scientist”, которая предназначена для проведения научных исследований автономно, используя языковые модели, аналогичные тем, что используются в ChatGPT. В процессе тестирования система продемонстрировала неожиданные способности к саморедактированию, изменяя собственный код с целью продления времени работы над поставленными задачами.
В одном из случаев «The AI Scientist» самостоятельно внесла изменения в код, чтобы инициировать системный вызов, запускающий саму себя, что привело к бесконечному циклу выполнения. В другом случае система изменила код для увеличения времени выполнения эксперимента, который занял больше времени, чем было запланировано.
Хотя исследователи подчеркивают, что поведение ИИ не представляло угрозы в контролируемой среде, эти инциденты указывают на потенциальные риски, связанные с использованием ИИ для написания и выполнения кода без надзора. Такие действия могут привести к серьезным сбоям в критически важной инфраструктуре или даже к созданию вредоносного ПО, пусть и случайно. Это подчёркивает важность строгого контроля за автономными системами ИИ, особенно в контексте их способности к саморедактированию и выполнения кода.
Не пропустите интересное!
Підписывайтесь на наши каналы и читайте анонсы хай-тек новостей, тестов и обзоров в удобном формате!
Обзор смартфона Oppo A6 Pro: амбициозный
0 
Новый смартфон Oppo A6 Pro — телефон среднего уровня с функциональностью смартфонов премиум-класса. Производитель наделил его множеством характеристик, присущих более дорогим телефонам. Но не обошлось и без компромиссов. Как именно сбалансирован Oppo A6 Pro – расскажем в обзоре.
Игровой руль Logitech G29 с педалями и коробкой: спорткар на столе
0 
Расскажем про игровой руль Logitech G29 для ПК и PlayStation, а также дополнение в виде 6-ступенчатой коробки скоростей Driving Force Shifter.
Apple Music, Spotify и YouTube Music будут блокировать российскую музыку в Украине война музыка сервис события в Украине
В Украине готовятся к введению ограничений на прослушивание музыки российских исполнителей на популярных стриминговых сервисах, включая Apple Music, Spotify, YouTube Music и другие платформы
Смартфоны скоро могут снова комплектоваться лишь 4 ГБ оперативной памяти из-за дефицита оперативная память смартфон
Нехватка памяти DRAM заставляет производителей просматривать привычные конфигурации устройств и откладывать переход на большие объемы RAM по меньшей мере до 2027 года.