Модель ШІ самовільно змінила свій код для збільшення часу на виконання завдань
24.08.24
Компанія Sakana AI з Токіо представила нову систему штучного інтелекту під назвою The AI Scientist, яка призначена для проведення наукових досліджень автономно, використовуючи мовні моделі, аналогічні тим, що використовуються в ChatGPT. У процесі тестування система продемонструвала несподівані здібності до саморедагування, змінюючи власний код для продовження часу роботи над поставленими завданнями.
В одному з випадків “The AI Scientist” самостійно внесла зміни до коду, щоб ініціювати системний виклик, що запускає саму себе, що призвело до нескінченного циклу виконання. В іншому випадку система змінила код збільшення часу виконання експерименту, який зайняв більше часу, ніж було заплановано.
Хоча дослідники наголошують, що поведінка ШІ не становила загрози в контрольованому середовищі, ці інциденти вказують на потенційні ризики, пов’язані з використанням ШІ для написання та виконання коду без нагляду. Такі дії можуть призвести до серйозних збоїв у критично важливій інфраструктурі або навіть до створення шкідливого програмного забезпечення, хай і випадково. Це наголошує на важливості суворого контролю за автономними системами ШІ, особливо в контексті їх здатності до саморедагування та виконання коду.
Не пропустіть цікаве!
Підписуйтесь на наші канали та читайте анонси хай-тек новин, тестів та оглядів у зручному форматі!
Asus Zenbook S 16 (UM5606): нова хвиля
Новий ноутбук Asus Zenbook S 16 виконаний у корпусі з незвичайного металу, побудований на базі свіжої платформи AMD, адаптованої для ІІ, та має відмінну автономність. Розкажемо про цей преміальний ноутбук детальніше
Ajax представила дверний дзвінок, IP-камеру та інші новинки систем безпеки для дому Ajax безпека камера події в Україні
21 листопада 2024 р. компанія Ajax Systems провела свою щорічну презентацію Ajax Special Event, представивши низку нових рішень для безпеки. Серед них нові камери, датчики руху та оновлення у сегментації портфоліо компанії.
Чотири нові планшети Acer Iconia Tab почали продаватися в Україні. Відомі ціни Acer планшет
Acer представила в Україні нову лінійку планшетів Iconia Tab, оснащену сучасними процесорами MediaTek та мультимедійними функціями