Initial SQL-only 1C adapter baseline
This commit is contained in:
@@ -0,0 +1,12 @@
|
||||
# Core Inference
|
||||
|
||||
Общий слой инференса.
|
||||
|
||||
Цель: дать единый интерфейс для запуска моделей разных типов.
|
||||
|
||||
Планируемые режимы:
|
||||
|
||||
- OpenAI-compatible API для текстовых моделей;
|
||||
- batch inference;
|
||||
- локальный inference для eval-тестов;
|
||||
- подключение LoRA/adapters поверх базовых моделей.
|
||||
Reference in New Issue
Block a user