11 lines
321 B
Markdown
11 lines
321 B
Markdown
# Core Monitoring
|
|
|
|
Мониторинг должен покрывать:
|
|
|
|
- использование GPU и VRAM;
|
|
- время ответа;
|
|
- ошибки инференса;
|
|
- количество запросов;
|
|
- версии используемых моделей;
|
|
- результаты eval-прогонов.
|