Google покращує штучний інтелект після помилкових порад: ШІ тепер краще розуміє гумор
За твердженнями користувачів, продукт компанії радив намазати піцу клеєм або з’їсти каміння
Пошукова система Google почала ретельніше налаштовувати свою систему "Огляди штучного інтелекту" (AI Review) після того, як вона почала видавати користувачам дивні та іноді небезпечні поради. Ця нова функція, яка була інтегрована в пошук Google цього місяця, дала збій і почала генерувати вкрай незвичайні відповіді на запити користувачів. Причиною цього стали "дуже рідкісні запити", на які ШІ не був навчений.
Про це пише Engadget. Наприклад, AI Review пропонувала користувачам приклеїти сир на піцу, з'їсти камені та інші небезпечні або незвичайні дії. Все це стало приводом для мемів, тож Google намагався видаляти деякі відповіді нового пошуку. Однак тепер компанія почала накладати більше обмежень на AI Review.
Google проаналізував приклади відповідей ШІ-пошуку за останні тижні та виявив патерни, де система не працювала належним чином. На основі цих спостережень компанія вжила низку заходів, щоб покращити роботу AI Review. Зокрема, ШІ тепер краще розуміє гумор та сатиричний контент, що допоможе йому уникати генерування небезпечних або дивних порад.
Це допоможе запобігти тому, щоб ШІ видавав небезпечні або дивні поради, які ґрунтуються на несерйозних запитах. Google також вживає заходів, щоб краще навчати систему AI Review на основі більш репрезентативних даних та вдосконалювати алгоритми виявлення небезпечних або невідповідних відповідей.
Окрім покращення системи AI Review, Google також вжив інших заходів, щоб уникнути проблем з ШІ-пошуком. Зокрема, компанія обмежила використання ШІ для запитів, де AI Review не показав себе ефективним. Крім того, Google припинив генерувати ШІ-відповіді на певні теми, пов'язані зі здоров'ям. Це було зроблено з метою запобігти поширенню неточної або потенційно небезпечної інформації.
ШІ Google почав генерувати дивні відповіді
Як повідомлялося, соціальні мережі переповнені прикладами нового продукту Google "Огляд штучного інтелекту", що говорить дивні речі. Компанія почала активно видаляти такі відповіді. Адже інколи вони не просто помилкові, а й небезпечні. Проте відмовлятись від AI Review у компанії не планують. Google стверджують, що їх продукт "переважно видає користувачам високоякісну інформацію".
Експерти зі штучного інтелекту наголосили, що помилки від функції Google були очікуваними, бо вона має лише початкові 80% правильності та досі перебуває на етапі тестування. Крім того, це далеко не перший випадок, коли генеративні моделі ШІ помічені у таких "галюцинаціях". З аналогічною проблемою стикались OpenAI, Meta та Perplexity.
Також Google розглядає можливість радикальної зміни своєї бізнес-моделі інтернет-пошуку. Згідно зі звітом Financial Times, компанія має намір ввести платну версію свого пошуковика з ШІ-функціями. Джерела, знайомі з планами Google, говорять, що ці розширені функції пошуку на основі штучного інтелекту можуть стати частиною наявних платних сервісів Google з підпискою, таких як Gemini Advanced або Google One.
Підписуйтесь на наш Telegram-канал, щоб не пропустити важливих новин. Підписатися на канал у Viber можна тут.
