«Privado» deve ser uma característica verificável. A forma mais rápida de testar essa afirmação é deixar de falar do produto em geral e acompanhar um trabalho real desde a entrada até ao resultado.
Defina o limite
Numa aplicação individual, o limite pode ser um dispositivo. Numa organização, pode ser uma estação de trabalho, uma rede de servidores ou um ambiente Kubernetes. Registe esse limite antes de comparar funcionalidades.
Em seguida, identifique todos os percursos que o atravessam: transferência do modelo, identidade, direitos, diagnóstico, telemetria opcional e qualquer modelo de cloud de terceiros.
Teste cada percurso de modelo separadamente
Um produto pode suportar um modelo local e um fornecedor de cloud opcional. São percursos de dados distintos, com operadores e condições diferentes. Uma resposta genérica sobre o produto não substitui uma resposta para cada percurso.
A interface deve indicar a alteração do limite antes de enviar conteúdo. O percurso local útil deve continuar a ser compreensível por si só.
Mantenha visíveis as responsabilidades operacionais
A inferência local ou nas instalações não elimina a necessidade de segurança dos endpoints, controlo de acesso, cópias de segurança, governação de modelos ou políticas de utilização. Altera quem opera o limite.
Esse é o valor prático da IA privada: o cliente pode colocar o sistema dentro de controlos que já compreende.