AI Orchestrator

Отдельный проект для серверного AI-orchestrator, который управляет задачами, моделями, MCP-tools и local workers.

Главная идея

Этот проект не является частью Local LLM Platform.

Local LLM Platform отвечает за:

• локальные модели;
• inference;
• registry;
• GPU profiles;
• model deployment;
• smoke tests моделей.

AI Orchestrator отвечает за:

• общение с пользователем;
• построение плана/графа выполнения;
• вызов моделей;
• вызов MCP-инструментов;
• работу с local worker;
• подтверждения действий;
• логи;
• fallback между weak/strong/vision моделями.

Ключевой принцип

В коде нет жестких запретов на действия.

Система должна работать через настраиваемую политику проекта:

• full_auto — выполнять без подтверждений;
• confirm — спрашивать подтверждение для действий, отмеченных политикой;
• manual — всегда показывать план и ждать запуска;
• disabled — компонент отключен настройкой.

Важно: disabled — это не hardcoded ban, а выбранная настройка проекта.

Базовая схема

User UI / API
    ↓
Conversation Manager
    ↓
Server Orchestrator
    ↓
Execution Graph
    ├─ Planner
    ├─ Workers
    ├─ Reviewer
    └─ Finalizer
    ↓
Model Router
    ├─ weak model: local
    ├─ strong model: local or external
    └─ vision model: local or external
    ↓
Tools
    ├─ MCP client
    ├─ remote MCP servers
    └─ local worker protocol

Что должен сделать Codex

Начать с документа docs/codex/CODEX_TASK.md.