Модель ШІ самовільно змінила свій код для збільшення часу на виконання завдань
24.08.24
Компанія Sakana AI з Токіо представила нову систему штучного інтелекту під назвою The AI Scientist, яка призначена для проведення наукових досліджень автономно, використовуючи мовні моделі, аналогічні тим, що використовуються в ChatGPT. У процесі тестування система продемонструвала несподівані здібності до саморедагування, змінюючи власний код для продовження часу роботи над поставленими завданнями.
В одному з випадків “The AI Scientist” самостійно внесла зміни до коду, щоб ініціювати системний виклик, що запускає саму себе, що призвело до нескінченного циклу виконання. В іншому випадку система змінила код збільшення часу виконання експерименту, який зайняв більше часу, ніж було заплановано.
Хоча дослідники наголошують, що поведінка ШІ не становила загрози в контрольованому середовищі, ці інциденти вказують на потенційні ризики, пов’язані з використанням ШІ для написання та виконання коду без нагляду. Такі дії можуть призвести до серйозних збоїв у критично важливій інфраструктурі або навіть до створення шкідливого програмного забезпечення, хай і випадково. Це наголошує на важливості суворого контролю за автономними системами ШІ, особливо в контексті їх здатності до саморедагування та виконання коду.
Не пропустіть цікаве!
Підписуйтесь на наші канали та читайте анонси хай-тек новин, тестів та оглядів у зручному форматі!
Огляд смартфона Oppo A6 Pro: амбітний
0 
Новий смартфон Oppo A6 Pro – середнячок з функціональністю смартфонів преміум-класу. Виробник наділив його кількома характеристиками, властивими більш дорожчим телефонам. Але не обійшлось і без компромісів. Як саме збалансований Oppo A6 Pro – розповімо в огляді.
Огляд ноутбука Acer Nitro Lite 16 (NL16-71G): універсальний та симпатичний
0 
Acer Nitro Lite 16 2025 модельного року отримала цікавий дизайн корпусу, геймерські акценти та перевірені компоненти. Розкажемо про його можливості детальніше
Ринок смартфонів у 2025 році: Honor вперше у п’ятірці смартфон статистика
За підсумками 2025 року постачання смартфонів у Європі знизилися на 1% і склали 134,2 млн. пристроїв. Такі дані наводить аналітична компанія Omdia.
Meta придбає у AMD процесорів для ШІ на $100 млрд AMD Facebook сервери штучний інтелект
У рамках домовленостей компанія Марка Цукерберга протягом п’яти років планує закуповувати прискорювачі штучного інтелекту AMD MI450 для своїх дата-центрів