Files

2.6 KiB

AI Orchestrator

Серверный runtime для AI-задач, моделей, MCP-tools и local workers. Проект отделен от Local LLM Platform и строится как самостоятельное orchestration-ядро.

Цели

AI Orchestrator отвечает за:

  • прием пользовательских задач;
  • построение execution graph;
  • вызов моделей через model router;
  • вызов MCP tools;
  • dispatch команд в local worker;
  • policy-driven подтверждения;
  • event log, audit и progress stream;
  • fallback между weak/strong/vision моделями.

Принципы

  • никаких hardcoded bans;
  • все ограничения идут через project policy;
  • worker не планирует задачу и не принимает интеллектуальных решений;
  • 1С не попадает в ядро и подключается только через MCP;
  • локальный Docker не используется как обязательный dev path.

Архитектура

Проект разбит на 4 слоя:

  • domain — сущности, state machines, policy/value objects, события;
  • application — use cases и orchestration services;
  • infrastructure — storage, config, policy adapter, provider gateways;
  • delivery — HTTP API, SSE, worker transport adapters.

Подробные решения зафиксированы в:

Текущий статус

В репозитории уже собраны:

  • архитектурный пакет с ADR;
  • доменная модель и state machines;
  • draft persistent storage schema;
  • внутренние порты orchestrator;
  • кодовый каркас src/ai_orchestrator;
  • базовый FastAPI delivery layer;
  • in-memory adapters для безопасного старта;
  • unit tests на базовые состояния и policy.

Быстрый запуск

python -m pip install -e .[dev]
python -m uvicorn ai_orchestrator.main:app --host 127.0.0.1 --port 8080

Структура

src/ai_orchestrator/
  domain/
  application/
  infrastructure/
  delivery/

Исходные папки src/orchestrator, src/policy и другие пока остаются как legacy-концептуальные маркеры из исходного blueprint.