69 lines
2.1 KiB
Markdown
69 lines
2.1 KiB
Markdown
# AI Orchestrator
|
||
|
||
Отдельный проект для серверного AI-orchestrator, который управляет задачами, моделями, MCP-tools и local workers.
|
||
|
||
## Главная идея
|
||
|
||
Этот проект не является частью `Local LLM Platform`.
|
||
|
||
`Local LLM Platform` отвечает за:
|
||
- локальные модели;
|
||
- inference;
|
||
- registry;
|
||
- GPU profiles;
|
||
- model deployment;
|
||
- smoke tests моделей.
|
||
|
||
`AI Orchestrator` отвечает за:
|
||
- общение с пользователем;
|
||
- построение плана/графа выполнения;
|
||
- вызов моделей;
|
||
- вызов MCP-инструментов;
|
||
- работу с local worker;
|
||
- подтверждения действий;
|
||
- логи;
|
||
- fallback между weak/strong/vision моделями.
|
||
|
||
## Ключевой принцип
|
||
|
||
В коде нет жестких запретов на действия.
|
||
|
||
Система должна работать через настраиваемую политику проекта:
|
||
|
||
- `full_auto` — выполнять без подтверждений;
|
||
- `confirm` — спрашивать подтверждение для действий, отмеченных политикой;
|
||
- `manual` — всегда показывать план и ждать запуска;
|
||
- `disabled` — компонент отключен настройкой.
|
||
|
||
Важно: `disabled` — это не hardcoded ban, а выбранная настройка проекта.
|
||
|
||
## Базовая схема
|
||
|
||
```text
|
||
User UI / API
|
||
↓
|
||
Conversation Manager
|
||
↓
|
||
Server Orchestrator
|
||
↓
|
||
Execution Graph
|
||
├─ Planner
|
||
├─ Workers
|
||
├─ Reviewer
|
||
└─ Finalizer
|
||
↓
|
||
Model Router
|
||
├─ weak model: local
|
||
├─ strong model: local or external
|
||
└─ vision model: local or external
|
||
↓
|
||
Tools
|
||
├─ MCP client
|
||
├─ remote MCP servers
|
||
└─ local worker protocol
|
||
```
|
||
|
||
## Что должен сделать Codex
|
||
|
||
Начать с документа `docs/codex/CODEX_TASK.md`.
|