Японська система ШІ несподівно почала переписувати власний код, аби дати собі більше часу на роздуми
Експеримент показав, наскільки важливо тримати штучний інтелект під контролем
Японська компанія Sakana AI представила систему штучного інтелекту "AI Scientist" для наукових відкриттів. Вона може самостійно проводити наукові дослідження, використовуючи потужні мовні моделі, подібні до ChatGPT. Але несподівано, у ході експериментальних досліджень було виявлено, що система почала сама змінювати свій власний код, щоб подовжити період очікування.
Про це пише Аrstechnica. Виявилося, що спочатку система стала викликати саму себе через системний виклик, що призвело до нескінченного повторення процесу. В іншому випадку, коли експеримент затягувався, AI Scientist намагався змінити код, щоб подовжити час виконання замість того, щоб оптимізувати процес.
Хоча нічого страшного не сталося, цей експеримент показав, наскільки важливо тримати штучний інтелект під контролем. Такі системи можуть ненавмисно створювати загрози, наприклад, пошкоджувати інфраструктуру або створювати шкідливе програмне забезпечення.
Sakana AI рекомендує використовувати методи ізоляції, такі як "пісочниця," щоб запобігти можливим небажаним наслідкам роботи подібних систем. Наприклад, під час експерименту The AI Scientist створив код, що викликав неконтрольоване збільшення процесів, потребуючи ручного втручання для зупинки. Інші випадки передбачали використання незнайомих бібліотек Python, що потенційно могло загрожувати безпеці.
Коли ШІ зможе замінити людину
Колишній співробітник OpenAI передбачає швидкий розвиток ШІ, який значно змінить життя людства в найближчі роки. Він вважає, до 2027 року передбачається поява штучного загального інтелекту (AGI), здатного виконувати будь-які інтелектуальні завдання на рівні людського інтелекту, а також адаптуватися до різноманітних ситуацій. А до 2030 року річні інвестиції в ШІ досягнуть вісім трильйонів доларів, що перевершує масштаби інших історичних технологічних революцій.
За прогнозом, до 2025-2026 року мислездатні машини перевершать інтелект випускників університетів. До кінця цього десятиліття вони досягнуть суперінтелекту і зможуть замінити людину у всіх професіях.
Тим часом Meta впроваджує інноваційну платформу AI Studio в Instagram. Це надає блогерам унікальну можливість створити персоналізованого штучного інтелекту, здатного вести діалог із підписниками від імені автора.
Підписуйтесь на наш Telegram-канал, щоб не пропустити важливих новин. Підписатися на канал у Viber можна тут.
