A explicação só pode citar o que está no registro
Cada decisão gera um registro com o que entrou, o que saiu, qual versão de modelo e de política decidiu, e a explicação amarrada às variáveis que foram realmente usadas. Alterne o método de atribuição e veja a explicação mudar:
{
"decision": { "outcome": "recusado",
"outcome_space": ["aprovado", "aprovado_com_limite", "recusado"] },
"inputs": {
"attribution_method": "exact",
"features": [
{ "id": "f1", "name": "renda_declarada_faixa", "contribution": -0.31 },
{ "id": "f2", "name": "tempo_relacionamento_meses", "contribution": -0.22 },
{ "id": "f3", "name": "restricao_externa", "contribution": -0.47 } ] },
"explanation": { "derived_from": ["f3", "f2"] }
}Com atribuição exata, o registro pode afirmar peso por variável — o modelo expõe o coeficiente.
95% dos consumidores brasileiros esperam explicação sobre decisões automatizadas de IA. 28% das empresas oferecem.
A diferença já é obrigação legal. O art. 20 da LGPD garante ao titular o direito de revisão por pessoa natural — hoje, não em 2026. O PL 2338/2023 acrescenta o direito à explicação e à contestação, com multas de até R$ 50 milhões.
Quem decide crédito, preço, triagem ou risco por algoritmo vai precisar mostrar como. A maior parte das empresas não tem o registro para isso.
Um evento, três leituras
Três produtos leem o mesmo registro: quem explica ao usuário, quem prova controle ao auditor, quem mede o custo.
| Produto | O que faz | Estágio |
|---|---|---|
| Registro de Decisão | o formato que os produtos compartilham, com validador de referência | especificado |
| GlassBox | registra a decisão e explica ao usuário final | em construção |
| AgentLedger | identidade, orçamento e trilha de auditoria de agentes de IA | planejado |
| TokenMeter | custo por tarefa, por agente e por resultado | planejado |
O estágio é o real. Nada aqui está publicado ainda — numa empresa que vende governança verificável, exagerar no próprio site é autodestrutivo.
O que não fazemos
Não avaliamos se o seu modelo é justo ou se tem viés. Registramos o que ele usou e o que devolveu, e amarramos a explicação a esses dados.
Quando o modelo não expõe atribuição por variável, dizemos quais dados entraram — não quanto cada um pesou. É pior de ler e melhor de defender. Explicação convincente que não corresponde ao que o modelo fez cria passivo em vez de reduzir.
Como funciona
Roda no seu servidor. Via Docker, sem limite de uso e sem telemetria obrigatória. Não existe versão paga, e não há serviço gerenciado — nem previsão de haver.
Licença por camada. SDKs e a especificação são Apache-2.0 — entram na sua aplicação sem contaminar seu código. O servidor é AGPL-3.0-only: quem rodar uma versão modificada como serviço publica as modificações.