Governança de IA não precisa começar com uma estrutura gigantesca. Para muitos casos, alguns controles básicos já reduzem riscos importantes.
1. Dono do caso de uso
Alguém de negócio deve responder pelo objetivo, uso e resultado.
2. Dados e permissões
Defina quais fontes a solução acessa e respeite as permissões existentes.
3. Testes
Crie um conjunto representativo de cenários antes do go-live.
4. Limites de uso
Deixe claro o que a solução pode e não pode fazer.
5. Revisão humana
Para decisões sensíveis ou ações irreversíveis, considere aprovação explícita.
6. Monitoramento
Registre erros, feedback, uso e mudanças relevantes.
7. Gestão de fornecedores e modelos
Mudanças de versão podem alterar comportamento. Saiba qual componente está em produção.
Proporcionalidade
Um assistente que resume textos públicos exige controles diferentes de um sistema que recomenda crédito ou executa transações.
Governança boa é proporcional ao impacto. O objetivo não é impedir inovação, e sim permitir escala com responsabilidade.
