Японская система ИИ неожиданно начала переписывать собственный код, чтобы дать себе больше времени на размышления
Эксперимент показал, насколько важно держать искусственный интеллект под контролем
Японская компания Sakana AI представила систему искусственного интеллекта "AI Scientist" для научных открытий. Она может самостоятельно проводить научные исследования, используя мощные языковые модели, подобные ChatGPT. Но неожиданно в ходе экспериментальных исследований было обнаружено, что система начала сама изменять свой собственный код, чтобы продлить период ожидания.
Об этом пишет Arstechnica. Оказалось, что сначала система стала вызывать себя через системный вызов, что привело к нескончаемому повторению процесса. В противном случае, когда эксперимент затягивался, AI Scientist пытался изменить код, чтобы продлить время выполнения вместо того, чтобы оптимизировать процесс.
Хотя ничего страшного не произошло, этот эксперимент показал, сколь важно держать искусственный интеллект под контролем. Такие системы могут непреднамеренно создавать угрозы, например, повреждать инфраструктуру или создавать вредоносное программное обеспечение.
Sakana AI рекомендует использовать методы изоляции, такие как "песочница", чтобы предотвратить возможные нежелательные последствия работы подобных систем. Например, в ходе эксперимента The AI Scientist создал код, вызвавший неконтролируемое увеличение процессов, требуя ручного вмешательства для остановки. Другие случаи предполагали использование незнакомых библиотек Python, что могло угрожать безопасности.
Когда ИИ сможет заменить человека
Бывший сотрудник OpenAI предусматривает быстрое развитие ИИ, которое значительно изменит жизнь человечества в ближайшие годы. Он считает, что до 2027 года предполагается появление искусственного общего интеллекта (AGI), способного выполнять любые интеллектуальные задачи на уровне человеческого интеллекта, а также адаптироваться к различным ситуациям. А к 2030 году годовые инвестиции в ИИ достигнут восемь триллионов долларов, что превосходит масштабы других исторических технологических революций.
По прогнозу, к 2025-2026 году мыслеспособные машины превзойдут интеллект выпускников университетов. К концу этого десятилетия они достигнут супер интеллекта и смогут заменить человека во всех профессиях.
Между тем Meta внедряет инновационную платформу AI Studio в Instagram. Это дает блогерам уникальную возможность создать персонализированного искусственного интеллекта, способного вести диалог с подписчиками от имени автора
Подписывайтесь на наш Telegram-канал, чтобы не пропустить важные новости. Подписаться на канал в Viber можно здесь.
