В августе 2026 года вышли сразу две открытые агентные модели, работающие на одной видеокарте: Nvidia показала Nemotron 3.5 Lightning для ноутбука или десктопа, а вторая модель на 30 млрд параметров под свободной лицензией целиком помещается в видеокарту на 24 ГБ. Обе заточены под агентные задачи: вызов инструментов, работа с файлами, длинные цепочки действий.
Для бизнеса это означает три вещи: данные не выходят из контура, платы за токены нет, стоимость владения предсказуема и не зависит от курса и тарифов внешнего поставщика.
Локальная модель уверенно закрывает основную рутину: поиск и ответы по документам (RAG), разбор заявок, чат-боты на сайте и в мессенджерах, подготовку отчётов. Редкие сложные запросы можно отдавать в облако — если политика безопасности это допускает.
Такое разделение экономит больше, чем выбор «самой умной» модели. У Cisco, например, 50–60 % запросов уходят в открытые модели, 20–30 % закрывает обычная автоматизация без нейросети, и лишь остаток — в дорогую флагманскую модель.
Локальное размещение снимает вопрос утечки данных, но не отменяет гигиены доступа. Агент в закрытом контуре всё так же должен иметь отдельную учётную запись, права по ролям и журнал действий: уязвимости находят и в популярных фреймворках агентов — в 2026 году такие случаи разбирали и CISA, и Check Point.
Дев-бот разворачивает такие контуры под ключ: локальная языковая модель, RAG по вашим документам, интеграции с CRM и 1С, права по ролям и журнал. Работает и без интернета — это проверяемое обещание, а не оговорка в договоре. Аппаратную конфигурацию подбираем под задачу и бюджет.
Читайте дальше: Серверы для ИИ и нейросетей, ИИ-ассистент на ваших данных, Рассчитать конфигурацию.