Oito correções que entregamos
Ordenadas pelo dinheiro nos seus traces, não pela moda. Cada uma entra só se passar nos seus evals.
Sintomas nos seus traces
Cada um aponta para uma correção abaixo. Corrija antes que o financeiro venha perguntar da fatura.
- Taxa de acerto do cache abaixo de 50% em prompts repetidos.
- Tokens de entrada mais de 10 vezes os de saída.
- A mesma ferramenta chamada 3 vezes ou mais em uma execução.
- Um modelo de ponta em todas as rotas.
- Nenhum custo por cliente, função ou pedido.
- 01Cache de prompt
Ordenamos cada prompt para a parte fixa vir primeiro e cair no cache. A Anthropic cobra pelo menos 90% menos pela entrada em cache.
Cache - 02Engenharia de contexto
Cortamos prompt de sistema, histórico e trechos recuperados ao que a tarefa usa. Menos tokens e, muitas vezes, respostas melhores.
Engenharia de contexto - 03Roteamento de modelos
Um roteador manda cada pedido ao modelo mais barato que passa no eval. O modelo de ponta fica só com os casos difíceis.
Roteamento de modelos - 04Modelos System 1
Classificar, extrair e rotear não exigem gerar texto. Modelos de passada única, como Jev ou Clairic, devolvem um valor tipado com sua confiança.
Modelos System 1 - 05Inspeção das chamadas
Lemos o trace de cada execução dos agentes. Loops, novas tentativas, chamadas repetidas e resultados enormes viram uma lista de correções.
Inspeção das chamadas - 06Reengenharia de ferramentas
Menos ferramentas e mais completas. Resultados filtrados e paginados. Erros que o agente sabe tratar. Uma chamada pode substituir várias.
Ferramentas para agentes - 07Controle de custo
Custo por pedido, por cliente e por função, nos seus próprios painéis. Orçamentos, limites de taxa e alertas por cliente.
Controle de custo - 08Avaliação de modelos
Um conjunto de evals feito com o seu tráfego real. Cada modelo novo roda nele. Trocamos quando o custo cai e as notas se mantêm.
Avaliação de modelos
Provas públicas
- A Anthropic cobra pelo menos 90% menos pela entrada lida do cache. Anthropic: cache de prompt
- A Cloudflare passou uma etapa de extração para um modelo pequeno. Aquele fluxo ficou 49% mais barato e 3,2 vezes mais rápido. Cloudflare: Clairic
Quanto sua conta de IA poderia ser?
Quatro perguntas. A estimativa aparece antes de pedirmos seu e-mail.
Sua conta de IA, antes e depois
Uma estimativa. Mude qualquer resposta.
1/4
Primeiro os evals. Depois a fatura.
Nenhuma mudança entra por palpite. Cada uma precisa manter suas notas nos evals antes de ir para produção.
- Linha de baseCusto por pedido e um conjunto de evals do seu tráfego real. Os dois lados assinam.
- AuditoriaTraces, prompts, chamadas de ferramentas e a fatura. Cada vazamento ordenado por valor.
- Entrega com evalsCada mudança roda antes nos evals. Uma regressão bloqueia a entrega.
- MonitoramentoCusto por pedido nos seus painéis, orçamento por cliente e um teste mensal de modelos novos.
Uma mudança que baixa uma nota de eval não entra, não importa quanto economize.
Do que precisamos: acesso de leitura a logs de uso e traces, os prompts e o código das ferramentas, e um engenheiro por 2 a 4 horas por semana.
Três formas de trabalhar conosco.
As mesmas três formas de todo projeto da Heinrichs.ai. Aqui, o ganho é o dinheiro que sua conta de IA deixa de custar.
Em dúvida sobre qual? Confira sua conta de IA: 4 perguntas →
Tudo começa com a semana de diagnóstico. É preciso uma economia grande o bastante para dividir.
Pago com o ganho
20% do que você economizar ou ganhar no primeiro ano. Depois, é tudo seu.
Medimos o ganho nos seus dados, por um método que os dois lados assinam.
Você paga os 20% depois que medimos a economia, nunca acima do máximo da proposta. Antes disso, você paga só a semana de diagnóstico: se não medirmos economia, as correções não custam nada. Se a economia for menor que 5 vezes o valor do diagnóstico, esse valor vira crédito para outro trabalho.
O que a semana de diagnóstico entrega
- Seus números de hoje e como vamos medi-los
- Cada vazamento, pontuado e ordenado
- Uma estimativa cautelosa da economia
- Uma proposta com o valor máximo que você paga e as semanas de trabalho
- Medido nos seus dadosCusto por resposta, antes e depois, com a mesma nota de qualidade.
- Nossa garantia de ganhoOs 20% acompanham o ganho medido, então um ganho menor custa menos. E trabalhamos até 4 semanas a mais sem custo para cobrir a diferença. Isso vale se a sua equipe fez a parte dela: dados e acessos no prazo, uma pessoa de 2 a 4 horas por semana e o novo processo em uso.
Diagnóstico e solução em uma semana, por um valor fixo. O valor acompanha o ganho.
- Antes da semanaCombinamos o escopo e o valor fixo.
- Durante a semanaAchamos os vazamentos e entregamos as correções com sua equipe.
- Na entregaAs correções rodam no seu tráfego real. Você fica com as correções e o relatório da semana.
Mudanças fora do escopo combinado só com sua aprovação por escrito. Se a semana revelar uma economia maior, o trabalho pode virar um projeto pago com essa economia.
Escopo aberto, sprints de 1 ou 2 semanas. Você define a ordem.
- Antes de começarConte o que sua IA faz. Mandamos o valor da hora e uma estimativa de horas.
- Cada sprint1 ou 2 semanas nas tarefas que você priorizou.
- Depois de cada sprintVocê vê o trabalho e define a próxima ordem.
Mais condições
- Custos de operaçãoVocê continua pagando seus fornecedores de IA direto, pelos preços deles. Não ficamos com parte do seu uso.
- O que fica com vocêSua licença é permanente com o trabalho pago. Se pararmos de operar, o código e seus dados passam para você.
- O próximo processo, mapeado sem custoDepois da conta, o próprio trabalho: mapeamos sem custo os processos que sua IA poderia assumir.
- Se houver divergência em um númeroUm contador independente, indicado no contrato, resolve pelo método assinado.
Seus dados e as provas
- Seus dadosNDA e acordo de tratamento de dados (LGPD, GDPR) antes de lermos qualquer log. Acesso só de leitura. Nenhum treino de IA com seus dados. No fim, acesso removido e cópias apagadas.
- Sem amarrasQualquer fornecedor, modelo ou nuvem. Suas contas continuam suas, e cada mudança que fazemos também.
Quanto podemos economizar na conta de IA?
Depende de como sua IA funciona hoje. A análise acima dá uma estimativa cautelosa em quatro perguntas. A semana de diagnóstico mede a economia no seu próprio uso.
As respostas vão piorar?
Não. Primeiro, criamos um teste de qualidade com o seu trabalho real. Uma mudança que baixa a nota não entra, não importa quanto economize.
O que é cache de prompt?
A maioria dos pedidos repete as mesmas instruções e documentos. O fornecedor guarda essa parte e cobra muito menos para lê-la de novo. A Anthropic cobra pelo menos 90% menos pela entrada em cache.
O que é roteamento de modelos?
Um roteador manda cada pedido ao modelo mais barato que o faz bem. Pedidos simples vão para modelos pequenos. Só os difíceis vão para o maior modelo.
O que é um modelo System 1?
Um modelo pequeno que toma uma decisão rápida em uma única passada: uma categoria, um número, ou sim ou não. Ele não escreve texto, por isso é rápido e barato. Jev e Clairic são exemplos.
Precisamos trocar de fornecedor de IA?
Não. Trabalhamos com OpenAI, Anthropic, Google, modelos abertos e qualquer outro fornecedor. As contas continuam suas, e você paga direto a eles.
De que acesso vocês precisam?
Acesso só de leitura ao uso da sua IA e, para agentes, aos traces. Antes, assinamos NDA e acordo de tratamento de dados. Nunca treinamos IA com seus dados.
Quanto tempo leva?
Uma semana de diagnóstico e depois 1 a 4 semanas de correções. As primeiras podem entrar no ar em cerca de 2 semanas.
Já temos um gateway de LLM e painéis. Por que vocês?
Ótimo, usamos os dois. O painel mostra o custo. Nós mudamos os prompts, as rotas e as ferramentas que geram esse custo, sempre validando com seus evals.
Mande um mês da sua conta de IA.
Mande a fatura e conte o que seus agentes fazem. Respondemos com os primeiros vazamentos que atacaríamos e quanto custam as correções.
Mande sua conta de IA por e-mail Agende uma conversa de 20 minutos
De São Paulo, em geral a distância, para o Brasil e o exterior. A pedido, visitamos no diagnóstico; viagem fora de SP sai a preço de custo.
Com quem você fala
Samuel HeinrichsFundador, São Paulo
Desenvolve software desde 2011 e lidera projetos de IA desde 2017. Pós-graduado em Inteligência Artificial. Trabalha em português e inglês.
Estamos recebendo os primeiros clientes e iniciamos no máximo 4 projetos por mês. Respondemos em até um dia útil, em português ou inglês.