Governança para inteligência artificial começa pela exposição, não pelo número de modelos

A governança de inteligência artificial costuma começar pelo lugar errado. Algumas empresas criam um comitê, publicam uma política e assumem que o risco está coberto. Outras tentam contar modelos e definir um limite a partir do qual a governança se tornaria necessária. Nenhuma das duas abordagens resolve o problema central.

O que precisa ser governado é o sistema de IA em seu contexto real, não apenas o modelo. Conta a decisão que ele influencia, a autonomia que recebe, os dados que utiliza, as pessoas ou operações que pode afetar, os fornecedores dos quais depende e a capacidade da organização de detectar, interromper e corrigir uma falha.

Por isso, a pergunta executiva não é "quantos modelos temos?". A pergunta é outra. Quais exposições foram criadas, quem responde por elas e qual intensidade de controle é proporcional a cada caso?

O NIST AI Risk Management Framework organiza a gestão de risco de IA em quatro funções, Govern, Map, Measure e Manage, e deixa explícito que o framework é voluntário e deve ser adaptado ao contexto, à tolerância a risco e aos recursos da organização. A ISO/IEC 42001 trata o tema como um sistema de gestão, com liderança, políticas, objetivos, processos, avaliação de desempenho e melhoria contínua. A implicação prática é direta. Governança de IA é um modelo operacional, não uma etapa de aprovação.

Três conclusões executivas

1. A unidade de governança é o sistema ou caso de uso, não o modelo isolado. O mesmo modelo pode sustentar aplicações com impactos radicalmente diferentes.
2. A intensidade de governança acompanha impacto e autonomia, ajustados por escala, sensibilidade dos dados, reversibilidade, dependência de terceiros e exigência regulatória.
3. Governança gera capacidade quando está embutida no ciclo de vida e na plataforma. Quando existe apenas como comitê, transfere decisões, acumula filas e produz uma falsa sensação de controle.

O problema real é exposição sem responsabilidade clara

Um classificador interno de documentos, usado para organizar conteúdo não sensível e sem produzir efeito vinculante, não cria a mesma exposição que um sistema que recomenda crédito, define prioridade de atendimento, ajusta preços, autoriza uma transação ou executa ações em infraestrutura crítica.

A tecnologia pode ser semelhante. O risco não.

A exposição nasce da combinação entre contexto e consequência. Ela aumenta quando o sistema influencia ou executa decisões de alta materialidade, opera com baixa intervenção humana, utiliza dados pessoais, financeiros, estratégicos ou regulados, alcança grande volume de clientes, transações ou processos, produz efeitos difíceis de reverter, depende de modelos, APIs ou plataformas de terceiros, ou atua em ambientes sujeitos a obrigações legais ou contratuais específicas.

Essa leitura corrige duas simplificações comuns. A primeira é tratar todo uso de IA como igualmente arriscado. A segunda é imaginar que um caso interno é automaticamente seguro. Um agente com acesso a sistemas corporativos pode executar milhares de ações de baixo impacto individual e, ainda assim, produzir uma exposição operacional relevante pela escala e pela autonomia.

Governança é um modelo operacional, não um fórum de discussão

Governança útil define como a empresa decide, entrega, monitora, interrompe e aprende. Ela conecta direção executiva, produto, engenharia, dados, segurança, jurídico, risco, auditoria e operação sem transformar cada caso de uso em uma negociação inédita.

Um modelo operacional de governança de IA precisa responder, no mínimo, a sete perguntas:

1. Qual objetivo empresarial justifica o sistema?
2. Qual decisão, recomendação ou ação ele produz?
3. Quem responde pelo resultado de negócio?
4. Quem responde pela integridade técnica e operacional?
5. Qual exposição é aceitável e qual é o risco residual?
6. Quais evidências permitem aprovar, monitorar e revisar o sistema?
7. Quem possui autoridade para restringir, pausar ou descontinuar o uso?

A OECD associa accountability à rastreabilidade de dados, processos e decisões ao longo do ciclo de vida, considerando os papéis dos diferentes atores e o contexto de uso. Isso desloca a governança da abstração ética para uma arquitetura concreta de responsabilidade.

A unidade de controle é o sistema em contexto, não o modelo isolado

A linguagem importa porque determina o desenho dos controles. Modelo, sistema, aplicação, agente, caso de uso e decisão automatizada não são sinônimos.

• Modelo é um componente estatístico ou computacional.
• Sistema de IA combina modelo, software, dados, integrações, interfaces, controles e operação.
• Caso de uso descreve o problema empresarial e o contexto em que o sistema é aplicado.
• Decisão automatizada é o efeito produzido sobre uma pessoa, transação, processo ou ativo.
• Agente é uma configuração capaz de planejar ou executar ações com algum grau de autonomia, normalmente por meio de ferramentas e integrações.

Governar apenas o modelo cria pontos cegos. Um modelo de linguagem adquirido de um fornecedor pode ser usado em um assistente interno, em um canal de atendimento ou em um agente que altera registros financeiros. O componente central pode ser o mesmo, mas os riscos, os responsáveis, os testes e os limites necessários serão diferentes.

A unidade mínima do inventário deve, portanto, combinar sistema, caso de uso, decisão ou ação, owner e ambiente operacional.

Accountability precisa vir antes da política

Políticas genéricas não compensam responsabilidade difusa. Antes de discutir critérios de aprovação, a empresa precisa nomear papéis com autoridade real. Uma estrutura pragmática separa quatro responsabilidades.

• Owner executivo. Responde pelo objetivo, pela exposição aceita e pela continuidade do uso.
• Owner de produto ou processo. Responde pelo desenho do caso, pela adoção e pelos resultados operacionais.
• Responsável técnico. Responde por arquitetura, dados, avaliações, segurança, observabilidade e operação.
• Funções independentes de controle. Desafiam premissas, validam evidências e escalam exceções conforme risco e regulação.

O conselho não precisa aprovar cada sistema. Sua responsabilidade é definir apetite de risco, supervisionar exposições materiais e exigir evidências sobre a capacidade de gestão. A administração executiva traduz esse direcionamento em critérios, alçadas e mecanismos operacionais.

Sem essa distinção, "o board responde" vira uma frase vazia. Todos parecem responsáveis e ninguém possui a decisão concreta de interromper um sistema.

O inventário precisa cobrir o que a empresa construiu e o que comprou

A primeira capacidade operacional é um inventário confiável. Ele deve abranger não apenas modelos desenvolvidos internamente, mas também recursos de IA incorporados a aplicações SaaS, APIs e modelos fundacionais contratados, copilotos utilizados por áreas de negócio, automações e agentes criados fora da tecnologia central, componentes open source, mudanças de versão promovidas por fornecedores e integrações que concedem acesso a dados ou ferramentas corporativas.

O inventário serve para permitir que a empresa responda rapidamente onde a IA está sendo usada, qual decisão ou ação é suportada, quem é afetado, quais dados entram e quais saídas são produzidas, quais terceiros participam da cadeia, quais controles estão ativos, quando ocorreu a última avaliação e qual é o plano de continuidade, fallback ou descomissionamento. Ele não existe para catalogar tecnologia por curiosidade.

Um inventário completo nunca será uma fotografia estática. Ele precisa ser alimentado por processos de aquisição, arquitetura, desenvolvimento, identidade, gestão de mudanças e operação. Caso contrário, se torna um arquivo que envelhece mais rápido do que a própria adoção de IA.

A matriz de intensidade cruza impacto da decisão e autonomia do sistema

A classificação deve ser simples o suficiente para orientar decisões e robusta o suficiente para evitar arbitrariedade. A matriz WatchZ utiliza dois eixos principais. O primeiro, impacto da decisão, avalia a consequência potencial sobre pessoas, clientes, receita, margem, continuidade, segurança, direitos, reputação e obrigações contratuais ou regulatórias. O segundo, autonomia do sistema, avalia quanto o sistema pode recomendar, decidir ou agir sem validação humana prévia, inclusive por meio de ferramentas, integrações ou alterações em outros sistemas.

A combinação forma quatro zonas. Em supervisão leve, com baixo impacto e baixa autonomia, bastam inventário, owner, controles corporativos padrão e revisão periódica. Em controle operacional, com alto impacto e baixa autonomia, entram testes documentados, validação funcional, rastreabilidade, revisão de mudanças e supervisão da decisão. Em governança reforçada, com menor impacto por ação mas alta autonomia, exigem-se limites de atuação, permissões mínimas, monitoramento contínuo, trilhas de ação, gestão de incidentes e mecanismo de interrupção. Em decisão condicionada ou restrita, com alto impacto e alta autonomia, são necessários avaliação formal de impacto, aprovação em alçada superior, supervisão humana efetiva, testes independentes, fallback, kill switch e critérios explícitos de não adoção.

A matriz não substitui julgamento. Cinco modificadores podem elevar a intensidade do controle: dados sensíveis, escala, baixa reversibilidade, dependência de terceiros e regulação. Um sistema inicialmente classificado como controle operacional pode migrar para decisão condicionada quando opera sobre milhões de transações, utiliza dados altamente sensíveis ou produz efeitos que não podem ser reparados com rapidez.

Controle proporcional exige padrões mínimos por classe

A governança escala quando os requisitos deixam de ser negociados do zero. Cada zona da matriz deve possuir um pacote mínimo de controles, evidências e alçadas. Esse pacote pode incluir descrição do propósito e dos usos proibidos, critérios de qualidade e desempenho, avaliação de impacto e grupos afetados, documentação de dados, fornecedores e limitações, testes de segurança e uso indevido, critérios de supervisão humana, limites de autonomia e de permissões, monitoramento, alertas e gatilhos de revisão, registro de incidentes e exceções, e requisitos de continuidade, fallback e descomissionamento.

A proporcionalidade evita dois desperdícios. O primeiro é aplicar controles pesados a casos de baixa exposição. O segundo é aprovar sistemas críticos com a mesma evidência exigida de uma automação administrativa.

Governança precisa atravessar o ciclo de vida

A política só se torna real quando acompanha o sistema do intake ao descomissionamento. Um ciclo de vida governado inclui oito etapas.

1. Intake e triagem. Registrar propósito, owner, contexto, dados, autonomia e impacto esperado.
2. Mapeamento de risco. Identificar pessoas, processos e ativos afetados e classificar exposição e risco residual.
3. Desenho e aquisição. Selecionar arquitetura, fornecedores, contratos, dados, controles e limites.
4. Avaliação antes do uso. Testar desempenho, segurança, robustez, vieses relevantes, comportamento adversarial e capacidade de fallback.
5. Aprovação. Registrar evidências, exceções, responsáveis e condições de entrada em produção.
6. Operação e monitoramento. Observar qualidade, comportamento, incidentes, mudanças de versão, custo, uso e aderência ao propósito.
7. Revisão e mudança. Reavaliar quando o escopo, o fornecedor, o modelo, os dados, a população ou a autonomia se alterarem.
8. Retirada. Desativar com critérios explícitos, preservar evidências necessárias e revogar acessos.

O NIST Generative AI Profile reforça a necessidade de papéis claros, testes pré-deploy, monitoramento contínuo, reporte de incidentes e critérios de aprovação compatíveis com os riscos específicos de IA generativa.

Plataforma e engenharia transformam política em controle executável

Governança manual não acompanha adoção distribuída. Quanto maior o portfólio, mais os controles precisam ser incorporados às plataformas e esteiras utilizadas pelos times. Capacidades reutilizáveis podem incluir registro automatizado no inventário, templates de avaliação e evidência, gateways para modelos e APIs, identidade própria para agentes, gestão de segredos e permissões mínimas, versionamento de prompts, modelos, dados e políticas, suites de avaliação antes e depois do deploy, filtros, guardrails e policy-as-code, logs de decisão e de ação, observabilidade de qualidade, custo, segurança e comportamento, e fluxo de incidentes, pausa e rollback.

Essa camada reduz o custo marginal da governança. O time não precisa reconstruir controles a cada projeto. Utiliza componentes padronizados e produz evidências de forma contínua.

Plataforma não elimina accountability. Automatizar um controle ruim apenas escala a fragilidade. A sequência correta começa por definir decisão e responsabilidade, depois estabelecer o critério, instrumentar e então automatizar.

Dados, segurança e terceiros são parte do sistema de governança

Governança de IA depende de governança de dados, segurança e gestão de fornecedores, e acrescenta requisitos específicos do contexto de decisão. Em dados, a organização precisa compreender origem, finalidade, qualidade, direitos de uso, retenção, sensibilidade, representatividade e linhagem. Em segurança, precisa tratar acesso, isolamento, extração de informação, prompt injection, abuso de ferramentas, alteração de comportamento, dependência de componentes e resposta a incidentes.

Nos sistemas adquiridos, a empresa continua responsável pelo contexto de implantação. Contratos e due diligence precisam esclarecer quais dados são processados e retidos, como versões e comportamentos podem mudar, quais evidências e logs estão disponíveis, como incidentes serão comunicados, quais subfornecedores participam da cadeia, como ocorre a portabilidade ou descontinuação e quais limitações existem para auditoria e explicabilidade.

Terceirizar o modelo não terceiriza a exposição empresarial.

Supervisão humana precisa ser desenhada, não presumida

Incluir um humano no loop não é, por si só, um controle suficiente. A supervisão só é efetiva quando a pessoa possui informação para compreender o contexto, tem tempo e competência para revisar, pode discordar do sistema sem penalidade operacional, possui autoridade para interromper ou reverter, recebe casos que realmente exigem julgamento e não está submetida a um volume que transforme revisão em confirmação automática.

Em alguns casos, a melhor decisão é limitar a autonomia. Em outros, é proibir determinados usos. A governança madura reconhece que nem toda exposição pode ser compensada por mais monitoramento.

Governança reduz o custo da incerteza, não promete ROI automático

É inadequado prometer que governança, isoladamente, acelera retorno. ROI depende da qualidade do problema escolhido, da adoção, do processo redesenhado, dos dados, da integração, do custo total e da capacidade de execução.

A contribuição econômica da governança é mais precisa. Ela pode reduzir o custo da incerteza e da repetição. Critérios conhecidos diminuem retrabalho de aprovação. Evidências reutilizáveis reduzem esforço de auditoria. Controles incorporados à plataforma reduzem implementação duplicada. Monitoramento e resposta podem limitar a duração e o alcance de falhas.

As métricas executivas devem separar três dimensões. Em cobertura, o percentual de sistemas e casos de uso registrados, com owners definidos, com terceiros e versões mapeados e com classificação atualizada. Em exposição e controle, a distribuição por zona de risco, o volume de decisões ou ações de alta materialidade, o percentual com monitoramento e fallback adequados, as exceções abertas com risco residual aceito e o tempo de detecção, contenção e remediação de incidentes. Em valor e eficiência, o resultado do caso de uso comparado ao baseline, o custo operacional total, o tempo de aprovação por classe, o custo de evidência e auditoria, o retrabalho evitado por componentes reutilizáveis e os sistemas descontinuados por baixo valor ou risco desproporcional.

A governança se torna executiva quando consegue mostrar, no mesmo painel, valor capturado, exposição assumida e eficácia dos controles. A priorização por critério econômico ajuda a decidir onde reforçar controle primeiro.

Regulação é contexto de desenho, não argumento de medo

O NIST AI RMF é um framework voluntário, não uma obrigação legal. A ISO/IEC 42001 define requisitos para um sistema de gestão e pode apoiar certificação, mas não substitui a análise das leis aplicáveis.

Na União Europeia, o AI Act estabelece regras baseadas em risco e obrigações diferentes conforme o papel do ator e o tipo de sistema. O regulamento entrou em vigor em 1º de agosto de 2024 e possui aplicação escalonada. Em 2026, a implementação continuava sujeita a atos, orientações e medidas de simplificação, com prazos específicos para diferentes categorias. A consequência prática é que empresas precisam acompanhar a versão vigente das regras, não repetir um calendário genérico.

No Brasil, o PL 2338/2023 permanecia em análise na Câmara dos Deputados em julho de 2026, aguardando parecer na comissão especial. Paralelamente, a Agenda Regulatória 2025-2026 da ANPD inclui inteligência artificial e revisão de decisões automatizadas, vinculadas à proteção de dados pessoais e ao artigo 20 da LGPD.

A governança corporativa não deve esperar a conclusão de toda regulação. Ela deve criar capacidade para identificar jurisdições, mapear obrigações, produzir evidências e adaptar controles sem reconstruir o modelo operacional a cada mudança normativa.

Um roteiro de 90 dias para sair do discurso

Uma implantação inicial pode ser organizada em quatro movimentos.

Dias 1 a 20, definir escopo e responsabilidade. Estabelecer sponsor executivo e fórum de decisão, aprovar a taxonomia de sistema, caso de uso, decisão e agente, definir critérios de impacto, autonomia e modificadores, e escolher duas ou três áreas prioritárias para descoberta.

Dias 21 a 45, construir o inventário mínimo viável. Integrar informações de arquitetura, compras, segurança, dados e produto, registrar sistemas construídos, adquiridos e usados por times de negócio, nomear owners e identificar lacunas, e classificar preliminarmente pela matriz.

Dias 46 a 70, definir pacotes de controle. Estabelecer requisitos mínimos por zona, criar templates de avaliação, aprovação, exceção e incidente, definir alçadas e critérios de pausa ou não adoção, e selecionar um caso de cada zona para validar os controles.

Dias 71 a 90, instrumentar e reportar. Incorporar registros, evidências e monitoramento às esteiras existentes, definir o painel de cobertura, exposição, controle e valor, corrigir lacunas encontradas no piloto e aprovar o roadmap de plataforma e expansão.

O objetivo dos 90 dias é estabelecer um sistema mínimo capaz de aprender, priorizar e evoluir com base em evidências, não declarar a governança concluída.

Conclusão

A empresa não precisa de mais um comitê para discutir inteligência artificial. Precisa de um modelo operacional que deixe explícito o que está em uso, qual decisão ou ação está sendo influenciada, quem responde, qual exposição foi aceita e como o sistema pode ser monitorado, restringido ou retirado.

Contar modelos é administrativamente simples, mas estrategicamente insuficiente. A intensidade do controle deve acompanhar impacto e autonomia, ajustados por escala, dados, reversibilidade, terceiros e regulação.

A governança de IA cria valor quando reduz o custo de decidir e aumenta a capacidade de operar sob incerteza. Ela não garante retorno e não elimina risco. Faz algo mais útil. Transforma exposição difusa em responsabilidade, evidência e decisão executiva. Um diagnóstico de capacidade mostra onde a intensidade de controle está desalinhada da exposição antes do próximo ciclo de adoção de IA.

Fontes

• NIST. "AI Risk Management Framework". https://www.nist.gov/itl/ai-risk-management-framework
• NIST. "AI Risk Management Framework (AI RMF 1.0)". https://nvlpubs.nist.gov/nistpubs/ai/nist.ai.100-1.pdf
• NIST. "AI RMF Core" (Govern, Map, Measure e Manage). https://airc.nist.gov/airmf-resources/airmf/5-sec-core/
• NIST. "AI 600-1 - Generative Artificial Intelligence Profile". https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence
• ISO/IEC. "ISO/IEC 42001:2023 - Artificial intelligence management systems". https://www.iso.org/standard/42001
• OECD. "Advancing accountability in AI". https://oecd.ai/en/accountability
• OECD. "AI Accountability Principle". https://oecd.ai/en/dashboards/ai-principles/P9
• União Europeia. "Regulation (EU) 2024/1689 - Artificial Intelligence Act". https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng
• European Commission. "Regulatory framework for AI - implementation and timeline". https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
• ANPD. "Agenda Regulatória 2025-2026" (inclui inteligência artificial e revisão de decisões automatizadas). https://www.gov.br/anpd/pt-br/assuntos/processo_regulatorio/agenda-regulatoria-1/agenda-regulatoria-2025-2026
• Câmara dos Deputados. "PL 2338/2023 - ficha de tramitação" (situação consultada em 14 de julho de 2026). https://www.camara.leg.br/proposicoesWeb/fichadetramitacao?idProposicao=2487262
• WatchZ. "Governança para inteligência artificial começa pela exposição, não pelo número de modelos". Versão editorial revisada, julho de 2026.

Nota: legislação e cronogramas regulatórios mudam. As afirmações regulatórias estão datadas em julho de 2026 e devem ser revistas na versão vigente antes de decisões. Este material oferece análise estratégica e arquitetural, não parecer jurídico, regulatório ou de auditoria.