ПРОФИЛЬ / AI И LLM

llmprobe

Измеряет время до первого токена, задержку, пропускную способность и ошибки API языковых моделей, включая локальные серверы. Экспортирует результаты через Prometheus и OpenTelemetry.

Репозиторий — откроется в новой вкладкеСайт или документация — откроется в новой вкладке

СВЕДЕНИЯ ИЗ ИСХОДНОЙ БАЗЫ

О проекте

Synthetic monitoring for LLM inference endpoints. Measure TTFT, latency, throughput, and errors across OpenAI, Anthropic, Google, Azure, Bedrock, and local servers (vLLM, SGLang, Ollama). CLI + MCP server with Prometheus and OpenTelemetry export

Исходное описание, снимок базы от 2026-10-03. Это не самостоятельная проверка редакции all-mcp.ru.