Modelos de Linguagem
Como avaliar resumos de depoimentos com modelos abertos
Compare resumos de depoimentos com modelos de 14B e 32B usando evidências por falante, negação, tempo e citação,…
Modelos de Linguagem
138 matérias publicadas
Modelos de Linguagem
RAG híbrido: como combinar BM25 e busca vetorial densa em documentação técnica
Como unir BM25 e embeddings com RRF para achar códigos de erro, siglas e números de peça, com…
Modelos de Linguagem
Continuous Batching e PagedAttention no vLLM
Entenda como continuous batching e PagedAttention organizam tarefas e KV cache no vLLM. Ajuste concorrência, contexto e memória…
Modelos de Linguagem
Avaliação de alucinações numéricas em demonstrativos de fluxo de caixa com LLMs abertos
Metodologia de teste para detectar e mitigar erros de cálculo e alucinações numéricas em DRE e demonstrativos contábeis…
Modelos de Linguagem
Compressão de contexto com LongLoRA e RoPE scaling: limites práticos em textos em português
Análise técnica de técnicas de expansão e compressão de janela de contexto com LongLoRA e RoPE scaling em…
Modelos de Linguagem
ORPO no suporte técnico: preparar pares e avaliar respostas
Prepare pares de preferência para ORPO no suporte técnico, compare com SFT e DPO e avalie respostas com…
Modelos de Linguagem
Quantização K-quants em GGUF: benchmarks de degradação semântica em terminologia jurídica e contábil
Análise técnica de benchmarks de quantização K-quants no formato GGUF para termos jurídicos e contábeis em modelos Llama…
Modelos de Linguagem
Técnicas de Context Caching hierárquico para agentes com bases documentais estáticas extensas
Conheça estratégias de context caching hierárquico para reduzir custos de tokens e acelerar a consulta a manuais e…
Modelos de Linguagem
Fine-tuning com DPO para alinhamento de tom e estilo comercial B2B
Aprenda a aplicar Direct Preference Optimization (DPO) para treinar modelos de linguagem no tom e estilo de vendas…
Modelos de Linguagem
Quantização EXL2 versus AWQ em GPUs locais: velocidade e consumo de memória
Compare o desempenho de quantização EXL2 e AWQ em placas de vídeo locais, avaliando taxas de inferência de…