Modelos de Linguagem
Fine-tuning de modelos abertos para classificação de decisões em tribunais de justiça
Aprenda a preparar datasets e treinar adaptadores LoRA para classificar decisões monocráticas e recursos no TJSP e TJRJ…
Modelos de Linguagem
138 matérias publicadas
Modelos de Linguagem
Comparativo de modelos multimodais de visão na digitalização de prontuários médicos
Avaliação comparativa de Claude 3.5 Sonnet, GPT-4o e Gemini 1.5 Pro na transcrição de prontuários manuscritos, termos de…
Modelos de Linguagem
Quantização FP8 em GPUs Nvidia Ada Lovelace e Hopper: ganhos reais de vazão em produção
Entenda os ganhos reais de vazão e economia de VRAM com quantização FP8 em GPUs Nvidia Ada Lovelace…
Modelos de Linguagem
RAG hierárquico (Parent Document Retrieval) para busca de artigos e incisos em códigos de leis
Descubra como o Parent Document Retrieval resolve a perda de contexto em normas e contratos extensos, combinando chunks…
Modelos de Linguagem
Quantização EXL2 para modelos de 70B em estações de trabalho: balanceamento entre VRAM e tokens
Entenda o formato EXL2 (ExLlamaV2) com precisão variável por camada para rodar modelos de 70 bilhões de parâmetros…
Modelos de Linguagem
Técnicas de Speculative Decoding com modelos draft leves para acelerar a inferência de IA
Aprenda como funciona a decodificação especulativa com modelos draft leves para dobrar a velocidade de geração de tokens…
Modelos de Linguagem
Modelos de raciocínio em declarações de IRPJ e Livro Caixa: avaliação de precisão e latência
Avaliamos o desempenho de modelos como o1 e Claude 3.5 Sonnet na apuração de IRPJ e reconciliação do…
Modelos de Linguagem
Quantização AWQ e GPTQ para modelos de 70B: como rodar IA local com duas GPUs RTX 4090
Aprenda a hospedar modelos abertos de 70 bilhões de parâmetros localmente com quantização AWQ e GPTQ de 4…
Modelos de Linguagem
Quantização FP4 e NVFP4 em GPUs Blackwell: limites e precisão na inferência de IA
Entenda o suporte nativo a NVFP4 na arquitetura Nvidia Blackwell, os ganhos reais de vazão e as técnicas…
Modelos de Linguagem
Modelos de raciocínio em auditorias fiscais: o1 e Claude 3.5 Sonnet na apuração de ICMS
Comparativo prático de modelos de raciocínio em auditorias tributárias: como o1 e Claude 3.5 Sonnet identificam créditos de…