Модель ШІ самовільно змінила свій код для збільшення часу на виконання завдань
24.08.24
Компанія Sakana AI з Токіо представила нову систему штучного інтелекту під назвою The AI Scientist, яка призначена для проведення наукових досліджень автономно, використовуючи мовні моделі, аналогічні тим, що використовуються в ChatGPT. У процесі тестування система продемонструвала несподівані здібності до саморедагування, змінюючи власний код для продовження часу роботи над поставленими завданнями.
В одному з випадків “The AI Scientist” самостійно внесла зміни до коду, щоб ініціювати системний виклик, що запускає саму себе, що призвело до нескінченного циклу виконання. В іншому випадку система змінила код збільшення часу виконання експерименту, який зайняв більше часу, ніж було заплановано.
Хоча дослідники наголошують, що поведінка ШІ не становила загрози в контрольованому середовищі, ці інциденти вказують на потенційні ризики, пов’язані з використанням ШІ для написання та виконання коду без нагляду. Такі дії можуть призвести до серйозних збоїв у критично важливій інфраструктурі або навіть до створення шкідливого програмного забезпечення, хай і випадково. Це наголошує на важливості суворого контролю за автономними системами ШІ, особливо в контексті їх здатності до саморедагування та виконання коду.
Не пропустіть цікаве!
Підписуйтесь на наші канали та читайте анонси хай-тек новин, тестів та оглядів у зручному форматі!
Тест ноутбука Asus Zenbook S 14 UX5406S: ультра-компакт
0 
Компанія Asus випустила оновлену модель у сімействі ноутбуків Zenbook S. Розглянута модель UX5406S отримала новий процесор Intel покоління Lunarlake. Чим цікавий лептоп і нові комплектуючі – розповімо далі.
Китай розробляє свої альтернативи Bluetooth та Wi-Fi Bluetooth Wi-Fi Китай розробка
Китай затвердив новий універсальний бездротовий протокол Star Flash, який обіцяє спростити управління пристроями та зміцнити технологічну незалежність країни, повідомляє The Register. Цей крок може значно вплинути на глобальний ринок технологій.
Сайти з піратським контентом в Україні все ще популярніші за офіційні сервіси інтернет події в Україні
Україна посіла шосте місце у світі за рівнем споживання піратського контенту, поступаючись США, Індії, Росії, Великій Британії та Канаді. Такі дані оприлюднив UABlockList із посиланням на Bloomberg.