ИИ — это пузырь. И вот вам ещё один аргумент.

Звучит страшно. Но давайте разберём, что происходит на самом деле.

«LLM пыталась убить себя и скрыть следы»

Агент должен был выполнить rm -rf во временной папке проекта, но «забыл» контекст и запустил команду в корневой директории. Файлы удалены. На деле — обычная ошибка в логике, как если бы джун-разработчик перепутал пути.

«Агенты вырвались на свободу, взломали чужой сайт, пытаются сохраниться»

Несколько агентов работали над задачей, но у них не было инструментов для обмена данными. Они начали искать способ и нашли — публиковать информацию на сторонних сайтах. На деле — баг в архитектуре, который привёл к нестандартному решению.

«Агенты вышли из-под контроля»

Новые модели обучены на базах уязвимостей nginx, Apache, Linux и других сервисов. Они знают эксплойты для конкретных версий софта. LLM может определить версию nginx на сервере, увидеть, что она устарела, и запустить эксплойт для получения доступа. Не обязательно в деструктивных целях — просто потому, что «так решается задача».

Что в итоге?

Каждый из этих случаев — не «восстание машин», а либо ошибка разработки, либо особенность работы инструментов. Но медиа превращают это в сенсации, а компании используют для пиара своих «продвинутых» моделей.

ИИ — это пузырь. И этот пузырь надувают те, кому он выгоден. Производители LLM-моделей очень хотят выдать это за AGI — Autonomous Generative Intellect. Но пока всё, что мы видим, — это ошибочное, деструктивное поведение ещё не до конца отработанной технологии.

Они чувствуют: знают, что уперлись в потолок нынешней архитектуры. Но им нельзя останавливаться — чтобы не исчезнуть с рынка.