Компания OpenAI представила детальный технический анализ Codex CLI — локального агентного инструмента, предназначенного для работы с кодом на пользовательском ПК. Этот материал будет особенно полезен разработчикам, создающим собственных агентов или заинтересованным в оптимизации затрат на инференс и обработку контекста.
Codex CLI функционирует на основе классического цикла работы агентов: пользователь отправляет запрос, система формирует большой промпт с инструкциями проекта. На этапе инференса модель может предоставить ответ или активировать инструмент. Выполнение команды добавляет результат в контекст, и цикл продолжается до завершения задачи. Важно помнить о жестком лимите в 32 Кб для агрегируемого JSON.
Также акцентируется внимание на вопросе стоимости контекста. Поскольку диалоговая история растет, затраты увеличиваются. Для борьбы с этим используется кэширование промптов, что позволяет сохранить линейные расходы. Однако стоит учитывать, что изменения в конфигурации могут сбить кэш и увеличить стоимость запросов.
Codex CLI теперь использует stateless архитектуру API, не сохраняя состояние диалога и шифруя данные. При заполнении контекстного окна автоматически активируется механизм компакции старых сообщений.
Кроме того, Codex CLI не ограничивается только серверами OpenAI — с флагом –oss инструмент может взаимодействовать с локальными моделями через Ollama или LM Studio. В следующих публикациях компания планирует более подробно разобрать архитектуру CLI и реализацию инструментов.
