Модель ШІ самовільно змінила свій код для збільшення часу на виконання завдань
24.08.24
Компанія Sakana AI з Токіо представила нову систему штучного інтелекту під назвою The AI Scientist, яка призначена для проведення наукових досліджень автономно, використовуючи мовні моделі, аналогічні тим, що використовуються в ChatGPT. У процесі тестування система продемонструвала несподівані здібності до саморедагування, змінюючи власний код для продовження часу роботи над поставленими завданнями.
В одному з випадків “The AI Scientist” самостійно внесла зміни до коду, щоб ініціювати системний виклик, що запускає саму себе, що призвело до нескінченного циклу виконання. В іншому випадку система змінила код збільшення часу виконання експерименту, який зайняв більше часу, ніж було заплановано.
Хоча дослідники наголошують, що поведінка ШІ не становила загрози в контрольованому середовищі, ці інциденти вказують на потенційні ризики, пов’язані з використанням ШІ для написання та виконання коду без нагляду. Такі дії можуть призвести до серйозних збоїв у критично важливій інфраструктурі або навіть до створення шкідливого програмного забезпечення, хай і випадково. Це наголошує на важливості суворого контролю за автономними системами ШІ, особливо в контексті їх здатності до саморедагування та виконання коду.
Не пропустіть цікаве!
Підписуйтесь на наші канали та читайте анонси хай-тек новин, тестів та оглядів у зручному форматі!
Огляд смартфона Oppo A6 Pro: амбітний
0 
Новий смартфон Oppo A6 Pro – середнячок з функціональністю смартфонів преміум-класу. Виробник наділив його кількома характеристиками, властивими більш дорожчим телефонам. Але не обійшлось і без компромісів. Як саме збалансований Oppo A6 Pro – розповімо в огляді.
Ігрове кермо Logitech G29: спорткар на столі
0 
Розповімо про ігрове кермо Logitech G29 для ПК та PlayStation, а також доповнення у вигляді 6-ступінчастого перемикача передач Driving Force Shifter.
Apple Music, Spotify та YouTube Music блокуватимуть російську музику в Україні війна музика події в Україні сервіс
В Україні готуються до введення обмежень на прослуховування музики російських виконавців на популярних стрімінгових сервісах, включаючи Apple Music, Spotify, YouTube Music та інші платформи
Смартфони знову матимуть лише 4 ГБ оперативної пам’яті через її дефіцит оперативна пам'ять смартфон
Нестача пам’яті DRAM змушує виробників переглядати звичні конфігурації пристроїв та відкладати перехід на великі обсяги RAM щонайменше до 2027 року.