2.1 KiB
2.1 KiB
AI Orchestrator
Отдельный проект для серверного AI-orchestrator, который управляет задачами, моделями, MCP-tools и local workers.
Главная идея
Этот проект не является частью Local LLM Platform.
Local LLM Platform отвечает за:
- локальные модели;
- inference;
- registry;
- GPU profiles;
- model deployment;
- smoke tests моделей.
AI Orchestrator отвечает за:
- общение с пользователем;
- построение плана/графа выполнения;
- вызов моделей;
- вызов MCP-инструментов;
- работу с local worker;
- подтверждения действий;
- логи;
- fallback между weak/strong/vision моделями.
Ключевой принцип
В коде нет жестких запретов на действия.
Система должна работать через настраиваемую политику проекта:
full_auto— выполнять без подтверждений;confirm— спрашивать подтверждение для действий, отмеченных политикой;manual— всегда показывать план и ждать запуска;disabled— компонент отключен настройкой.
Важно: disabled — это не hardcoded ban, а выбранная настройка проекта.
Базовая схема
User UI / API
↓
Conversation Manager
↓
Server Orchestrator
↓
Execution Graph
├─ Planner
├─ Workers
├─ Reviewer
└─ Finalizer
↓
Model Router
├─ weak model: local
├─ strong model: local or external
└─ vision model: local or external
↓
Tools
├─ MCP client
├─ remote MCP servers
└─ local worker protocol
Что должен сделать Codex
Начать с документа docs/codex/CODEX_TASK.md.