Modelos de Linguagem
Benchmarks de tempo até o primeiro token (TTFT) entre vLLM, TGI e SGLang em produção
Aprenda a comparar TTFT em vLLM, TGI e SGLang com carga controlada, percentis, cache e erros registrados, sem…
Assuntos relacionados
4 matérias
Aprenda a comparar TTFT em vLLM, TGI e SGLang com carga controlada, percentis, cache e erros registrados, sem…
Aprenda a avaliar modelos de linguagem em registros médicos em português, com testes de negação, contexto, evidências e…
Aprenda a avaliar a qualidade de LLMs em portugues brasileiro, medindo compreensao gramatical, termos tecnicos, expressoes regionais e…
MMLU, GSM8K, MATH, HumanEval e GPQA: entenda o que cada teste mede de verdade, os limites de memorizacao…