Зʼїж каміння або додай клей у піцу: ШІ Google почав генерувати дивні відповіді, в компанії відреагували

Нова функція AI Overview, яка інтегрована у пошук Google цього місяця, дала збій та почала генерувати вкрай дивні відповіді на запити. Вона пропонувала приклеїти сир на піцу, з'їсти камені та інше. А все через "дуже рідкісні запити".

Як повідомляє The Verge, компанія Google почала активно видаляти такі відповіді. Адже інколи вони не просто помилкові, а й небезпечні. Проте відмовлятись від AI Overviews у компанії не планують. Google стверджують, що їх продукт "переважно видає користувачам високоякісну інформацію".

"Переважна більшість оглядів ШІ надають високоякісну інформацію з посиланнями на додаткові джерела в інтернеті. Багато з прикладів, які ми бачили, були незвичайними запитами, а також ми бачили приклади, які були підроблені або які ми не змогли відтворити", – сказала прессекретарка технологічного гіганта Меган Фарнсворт.

Експерти зі штучного інтелекту наголосили, що помилки від функції Google були очікуваними, бо вона має лише початкові 80% правильності та досі перебуває на етапі тестування. Крім того, це далеко не перший випадок, коли генеративні моделі ШІ помічені у таких "галюцинаціях". З аналогічною проблемою стикались OpenAI, Meta та Perplexity.

Проте Google та його інструмент з ШІ розгорнутий у найбільшому масштабі, тому і стала предметом широкої дискусії. Один із засновників ШІ навіть сказав на умовах анонімності, що "компанія, яка була на передовій та поставляла високоякісні речі, тепер відома низькоякісною продукцією, яка стає мемом".

Закон про ШІ у Європі

У грудні минулого року в ЄС ухвалили закон "Про штучний інтелект", який регулює його розвиток. Єврокомісар з питань внутрішнього ринку та послуг Тьєррі Бретон підкреслив, що новий закон про ШІ - важлива подія, яка означає, що Європейський Союз стає першим континентом у світі, який встановив правила використання ШІ.

Документ передбачає розвиток штучного інтелекту та обмеження, спрямовані на запобігання зловживання ним. Також положення передбачають запровадження особливого нагляду за системами штучного інтелекту, які взаємодіють з людьми. Ці системи повинні будуть повідомити користувача, що вони мають справу з машиною. 

Закон про ШІ ще передбачає застосування заборон, які покликані застосовуватися в основному до додатків, які суперечать європейським цінностям. За порушення передбачені санкції. За найсерйозніші правопорушення накладатимуть штрафи до 7% від обороту, а нижня межа становитиме 35 млн євро.

Раніше Інформатор писав, що Україна активно використовує штучний інтелект у війні проти Росії. Також ШІ допоможе у розмінуванні України. Відповідний договір вже підписали з компанією Palantir. 

 Підписуйтесь на наш Telegram-канал, щоб не пропустити важливих новин. Підписатися на канал у Viber можна тут.