Google улучшает искусственный интеллект после ложных советов: ИИ теперь лучше понимает юмор

Поисковая система Google начала более тщательно настраивать свою систему «Обзоры искусственного интеллекта» (AI Review) после того, как она начала издавать пользователям странные и иногда опасные советы. Эта новая функция, интегрированная в поиск Google в этом месяце, дала сбой и начала генерировать крайне необычные ответы на запросы пользователей. Причиной тому стали «очень редкие запросы», на которые ИИ не был обучен.

Об этом пишет Engadget. К примеру, AI Review предлагала пользователям приклеить творог на пиццу, съесть камни и другие опасные или необычные действия. Все это стало поводом для мемов, поэтому Google пытался удалять некоторые ответы на новый поиск. Однако теперь компания начала накладывать больше ограничений на AI Review.

Google проанализировал примеры ответов ИИ-поиска за последние недели и обнаружил паттерны, где система не работала должным образом. На основе этих наблюдений компания приняла ряд мер по улучшению работы AI Review. В частности, ИИ теперь лучше понимает юмор и сатирический контент, что поможет ему избегать генерирования опасных или удивительных советов.

Это поможет предотвратить, чтобы ИИ издавал опасные или странные советы, основанные на несерьезных запросах. Google также принимает меры, чтобы лучше обучать систему AI Review на основе более репрезентативных данных и усовершенствовать алгоритмы обнаружения опасных или неподходящих ответов.

Кроме улучшения системы AI Review, Google также принял другие меры, чтобы избежать проблем с ИИ-поиском. В частности, компания ограничила использование ИИ для запросов, где AI Review не показал себя эффективным. Кроме того, Google прекратил генерировать ИИ ответы на определенные темы, связанные со здоровьем. Это было сделано с целью предотвратить распространение неточной или потенциально опасной информации.

ИИ Google начал генерировать странные ответы

Как сообщалось, социальные сети переполнены примерами нового продукта Google «Обзор искусственного интеллекта», говорящего странные вещи. Компания начала активно удалять следующие ответы. Ведь иногда они не просто ложны, но и опасны. Однако отказываться от AI Review у компании не планируют. Google утверждают, что их продукт «преимущественно выдает пользователям высококачественную информацию».

Эксперты по искусственному интеллекту подчеркнули, что ошибки от функции Google были ожидаемыми, потому что она имеет только начальные 80 % правильности до сих пор находится на этапе тестирования. Кроме того, это далеко не первый случай, когда генеративные модели ИИ замечены в таких галлюцинациях. С аналогичной проблемой сталкивались OpenAI, Meta и Perplexity.

Также Google рассматривает возможность радикального изменения своей бизнес-модели интернет-поиска. Согласно отчету Financial Times, компания намерена ввести платную версию своего поисковика с ИИ-функциями. Источники, знакомые с планами Google, говорят, что расширенные функции поиска на основе искусственного интеллекта могут стать частью имеющихся платных сервисов Google с подпиской, таких как Gemini Advanced или Google One.

Подписывайтесь на наш Telegram-канал, чтобы не пропустить важные новости. За новостями в режиме онлайн прямо в мессенджере следите на нашем Telegram-канале Информатор Live. Подписаться на канал в Viber можно здесь.