Съешь камни или добавь клей в пиццу: ИИ Google начал генерировать странные ответы, в компании отреагировали

Новая функция AI Overview, которая интегрирована в поиск Google в этом месяце, дала сбой и начала генерировать крайне странные ответы на запросы. Она предлагала приклеить сыр на пиццу, съесть камни и прочее. А все из-за "очень редких запросов".

Как сообщает The Verge, компания Google начала активно удалять такие ответы. Ведь они иногда не просто ложные, но и опасные. Тем не менее, отказываться от AI Overviews в компании не планируют. Google утверждают, что их продукт "преимущественно выдает пользователям высококачественную информацию".

"Подавляющее большинство обзоров ИИ предоставляют высококачественную информацию со ссылками на дополнительные источники в интернете. Многие из примеров, которые мы видели, были необычными запросами, а также мы видели примеры, которые были поддельными или которые мы не смогли воспроизвести", – сказала пресс-секретарь технологического гиганта. Меган Фарнсворт.

Эксперты по искусственному интеллекту подчеркнули, что ошибки от функции Google были ожидаемыми, потому что у нее только начальные 80% правильности и она до сих пор находится на этапе тестирования. Кроме того, это далеко не первый случай, когда генеративные модели ИИ замечены в таких "галлюцинациях". С аналогичной проблемой сталкивались OpenAI, Meta и Perplexity.

Однако Google и его инструмент с ИИ развернут в самом большом масштабе, поэтому и стала предметом широкой дискуссии. Один из основателей ИИ даже сказал на условиях анонимности, что "компания, которая была на передовой и поставляла высококачественные вещи, теперь известна низкокачественной продукцией, которая становится мемом".

Закон об ИИ в Европе

В декабре прошлого года в ЕС приняли закон "Об искусственном интеллекте", регулирующий его развитие. Еврокомиссар по вопросам внутреннего рынка и услуг Тьерри Бретон подчеркнул, что новый закон об ИИ – важное событие, означающее, что Европейский Союз становится первым континентом в мире, который установил правила использования ИИ.

Документ предусматривает развитие искусственного интеллекта и ограничения, направленные на предотвращение злоупотребления им. Также положения предусматривают введение особого надзора за системами искусственного интеллекта, взаимодействующими с людьми. Эти системы должны будут сообщить пользователю, что они имеют дело с машиной. 

Закон об ИИ еще предусматривает применение запретов, призванных применяться в основном к приложениям, противоречащим европейским ценностям. За нарушение предусмотрены санкции. За самые серьезные правонарушения будут налагать штрафы до 7% от оборота, а нижний предел составит 35 млн. евро.

Ранее Информатор писал, что Украина активно использует искусственный интеллект в войне против России. Также ИИ поможет в разминировании Украины. Соответствующий договор уже был подписан с компанией Palantir. 

Подписывайтесь на наш Telegram-канал, чтобы не пропустить важные новости. Подписаться на канал в Viber можно здесь.