Initial SQL-only 1C adapter baseline
This commit is contained in:
@@ -0,0 +1,50 @@
|
||||
# 1C Model Candidates
|
||||
|
||||
Дата анализа: 2026-06-19.
|
||||
|
||||
## Вывод
|
||||
|
||||
Публичной модели, явно обученной именно на 1С/BSL и при этом выглядящей сильнее современных coder-моделей, я не нашел.
|
||||
|
||||
Лучший кандидат для проверки под 1С сейчас: `Qwen/Qwen3-Coder-30B-A3B-Instruct`, в локальном GGUF-варианте `lmstudio-community/Qwen3-Coder-30B-A3B-Instruct-GGUF`.
|
||||
|
||||
## Почему Qwen3-Coder 30B A3B
|
||||
|
||||
- Модель ориентирована на coding/agentic coding.
|
||||
- Есть длинный контекст: 262,144 токена нативно, что важно для анализа модулей, метаданных и фрагментов конфигурации.
|
||||
- 30.5B total / 3.3B active MoE: потенциально сильнее маленьких 4B/7B моделей, но легче активной части.
|
||||
- Есть GGUF quant для llama.cpp/Ollama/LM Studio.
|
||||
- Apache-2.0 у оригинальной модели.
|
||||
|
||||
Практичные GGUF-файлы:
|
||||
|
||||
- `Qwen3-Coder-30B-A3B-Instruct-Q4_K_M.gguf` - 18,632,186,176 bytes.
|
||||
- `Qwen3-Coder-30B-A3B-Instruct-Q3_K_L.gguf` - 14,583,005,504 bytes.
|
||||
|
||||
## Сравнение
|
||||
|
||||
| Модель | Плюсы для 1С | Минусы |
|
||||
| --- | --- | --- |
|
||||
| `Qwen3-Coder-30B-A3B-Instruct` | coding, agentic workflows, long context, tool-use, repo-scale задачи | не обучена специально на 1С; Q4 крупнее Devstral Q4 |
|
||||
| `Devstral-Small-2-24B-Instruct-2512` | agentic coding, Mistral family, Q4_K_M рекомендован в карточке quant | карточка quant предупреждает про ограничения tool calling в llama.cpp/mistral-vibe |
|
||||
| `DeepSeek-Coder-V2-Lite-Instruct` | легче, coder-модель, GGUF Q4 около 10.36 GB | старее; вероятно слабее для длинного agentic/RAG сценария |
|
||||
| `GLM-4.5-Air` | сильная agent/reasoning/coding модель | MoE 106B total / 12B active, тяжелее для локального контура; надо отдельно проверять runtime |
|
||||
|
||||
## Рекомендация
|
||||
|
||||
1. Не искать “магическую 1С-модель” как основу.
|
||||
2. Взять `Qwen3-Coder-30B-A3B-Instruct Q4_K_M` как лучший следующий кандидат.
|
||||
3. Сравнить с текущим `Devstral Q4_K_M` на `plugins/1c/evals/smoke.yaml`.
|
||||
4. Для качества по 1С делать не ставку на память модели, а связку:
|
||||
- RAG по документации и metadata snapshots;
|
||||
- инструменты 1С;
|
||||
- curated examples;
|
||||
- LoRA/adapters после накопления датасета.
|
||||
|
||||
## Sources
|
||||
|
||||
- https://huggingface.co/Qwen/Qwen3-Coder-30B-A3B-Instruct
|
||||
- https://huggingface.co/lmstudio-community/Qwen3-Coder-30B-A3B-Instruct-GGUF
|
||||
- https://huggingface.co/bartowski/mistralai_Devstral-Small-2-24B-Instruct-2512-GGUF
|
||||
- https://huggingface.co/bartowski/DeepSeek-Coder-V2-Lite-Instruct-GGUF
|
||||
- https://huggingface.co/unsloth/GLM-4.5-Air-GGUF
|
||||
@@ -0,0 +1,46 @@
|
||||
# Plugin Model Selection
|
||||
|
||||
Дата: 2026-06-19.
|
||||
|
||||
Так как VRAM `docker-gpu.cin.su` пока не подтверждена по SSH, выбран не абсолютный максимум, а практичный набор сильных моделей, которые разумно пробовать на локальном GPU-хосте.
|
||||
|
||||
| Plugin | Model | Why |
|
||||
| --- | --- | --- |
|
||||
| `text` | `Qwen/Qwen3-4B-Instruct-2507` | 4B, Apache-2.0, длинный контекст, хороший общий assistant baseline. |
|
||||
| `translation` | `NiuTrans/LMT-60-4B` | Apache-2.0, специализированная multilingual translation модель, легче 8B-варианта. |
|
||||
| `audio` | `openai/whisper-large-v3-turbo` | MIT, сильный ASR/speech translation baseline, небольшой размер относительно LLM. |
|
||||
| `video` | `Qwen/Qwen2.5-VL-7B-Instruct` | Apache-2.0, image/video/document understanding, long-video claims in model card. |
|
||||
| `image` | `stabilityai/stable-diffusion-xl-base-1.0` + `diffusers/stable-diffusion-xl-1.0-inpainting-0.1` | Практичный SDXL baseline для генерации и masked editing на RTX 4090; качаем fp16 diffusers-вариант. |
|
||||
| `1c` | `lmstudio-community/Qwen3-Coder-30B-A3B-Instruct-GGUF` | лучший найденный кандидат для code/agentic/repository/tool-use; 1С-качество добираем RAG/tools/LoRA. |
|
||||
|
||||
## Bundle
|
||||
|
||||
Manifest: `plugins/model-bundle.yaml`.
|
||||
|
||||
Download:
|
||||
|
||||
```powershell
|
||||
powershell -NoProfile -ExecutionPolicy Bypass -File scripts/download_plugin_model_bundle.ps1
|
||||
```
|
||||
|
||||
If the large 1C GGUF should be skipped:
|
||||
|
||||
```powershell
|
||||
powershell -NoProfile -ExecutionPolicy Bypass -File scripts/download_plugin_model_bundle.ps1 -SkipLarge1C
|
||||
```
|
||||
|
||||
If image models should be skipped:
|
||||
|
||||
```powershell
|
||||
powershell -NoProfile -ExecutionPolicy Bypass -File scripts/download_plugin_model_bundle.ps1 -SkipImage
|
||||
```
|
||||
|
||||
## Sources
|
||||
|
||||
- https://huggingface.co/Qwen/Qwen3-4B-Instruct-2507
|
||||
- https://huggingface.co/NiuTrans/LMT-60-4B
|
||||
- https://huggingface.co/openai/whisper-large-v3-turbo
|
||||
- https://huggingface.co/Qwen/Qwen2.5-VL-7B-Instruct
|
||||
- https://huggingface.co/stabilityai/stable-diffusion-xl-base-1.0
|
||||
- https://huggingface.co/diffusers/stable-diffusion-xl-1.0-inpainting-0.1
|
||||
- https://huggingface.co/lmstudio-community/Qwen3-Coder-30B-A3B-Instruct-GGUF
|
||||
Reference in New Issue
Block a user