Cada AI Server hospeda um painel ao vivo em <code>/dashboard</code> para humanos, expõe os mesmos dados como JSON agregado e serve métricas nativas do Prometheus para alertas <a href="#ref-1">[1]</a>. Os resumos de uso são detalhados por chave, aplicativo, modelo ou trabalhador; o status do pool de trabalhadores pode ser consultado para automação da fazenda; e as sondas do orquestrador cobrem disponibilidade e prontidão. Tudo é integrado, então trata-se de usar bem, não de instalar.
Detecte problemas antes dos usuários
O painel mostra a saúde de cada trabalhador, taxa de erros, latência p95 e saturação, para que um trabalhador que fique INATIVO ou uma deriva na latência seja visível antes de afetar um usuário <a href="#ref-2">[2]</a>. Para alertas, colete dados do endpoint Prometheus e comece com três regras: um limite de taxa de erro, um p95 que ultrapasse o dobro da linha de base por dez minutos, e uma fazenda cuja contagem de trabalhadores saudáveis fique abaixo do total por cinco minutos.
Rateio sem sidecar de medição
A auditoria sem conteúdo atribui cada requisição ao seu aplicativo e instalação, e em uma fazenda ao trabalhador que atende, que são dados nativos para rateio por equipe e por aplicativo <a href="#ref-1">[1]</a>. Uma consulta de uso em um intervalo de datas, agrupada por aplicativo, retorna requisições, tokens e erros por aplicação; agrupada por trabalhador divide o custo do hardware da fazenda; agrupada por chave reporta por credencial. A precificação por modelo pode ser configurada no servidor para que os resumos incluam estimativas de custo.
Números que resistem à auditoria
O painel está pronto para projetor e sua legenda se explica para não engenheiros, então uma demonstração ao vivo sob carga substitui slides: execute um chat e observe as requisições por segundo, derrube um trabalhador e veja o failover, depois aponte para a visão por aplicativo como o quadro de rateio <a href="#ref-1">[1]</a>. Cada dado é reproduzível a partir dessas receitas de implantação, o que permite que uma alegação resista à diligência prévia do comprador.