Governança de IA começa no orçamento

Essa é a situação em boa parte das empresas que conheço.

O projeto foi aprovado. Teve reunião de kickoff, squad dedicado, integração com a stack, entrega em produção.

Aí o projeto fechou. A verba foi encerrada. E o sistema ficou rodando.

Sem orçamento para curadoria contínua. Sem ciclo de auditoria de lógica. Sem revisão periódica de escopo. Sem dono com recurso para ser dono de verdade.

O que acontece quando ninguém tem orçamento para cuidar de algo? A responsabilidade some. Não por negligência de nenhuma pessoa em específico: por design financeiro.

Ninguém voluntariamente assume ser dono de um sistema quando não tem tempo, verba nem mandato para isso. É comportamento racional, não descuido.

O resultado prático é que o controle migra para o próprio sistema. Ele segue rodando com a lógica configurada no dia do deploy. O mundo muda, o negócio muda, os dados mudam. O sistema não sabe disso.

E a empresa acha que tem governança de IA porque tem um sistema de IA funcionando.

Há um ponto que costumo levantar com clientes: a decisão de não orçar governança não é omissão. É uma decisão deliberada de terceirizar o controle para a máquina. Só que ninguém assina embaixo com esse nome.

O problema de governança de IA não começa no organograma. Começa no orçamento.

Me conta nos comentários: na sua empresa, quem é o dono do sistema de IA depois que o projeto é entregue? Tem recurso alocado para isso, ou é mais uma responsabilidade que flutua sem endereço?