Governança de IA é formal em menos de 20% das empresas

A governança de IA está formalmente estruturada em menos de 20% das empresas que utilizam modelos da tecnologia em produção analisadas pela consultoria Bridge & Co. O dado considera projetos conduzidos pela companhia nos últimos 36 meses e indica uma distância entre a adoção dessas soluções e a criação de mecanismos para controlar seu uso.

Na prática, a governança de IA reúne regras, responsabilidades e mecanismos de controle que definem como a tecnologia pode ser utilizada dentro de uma empresa. Isso inclui desde quais ferramentas podem ser adotadas até o tratamento de dados, o acompanhamento de custos e a gestão de riscos.

Segundo a análise da Bridge & Co., é comum que a implementação de IA comece antes da definição dessas políticas, procedimentos e responsabilidades. Essa diferença de ritmo entre adoção e controle pode ampliar a exposição das empresas a problemas financeiros, jurídicos, operacionais e de segurança. O cenário também aparece em um levantamento internacional do IBM Institute for Business Value. Em pesquisa global com 2 mil executivos de tecnologia de nível C, 77% das organizações consultadas relataram que a adoção de IA já avança mais rapidamente do que suas atuais capacidades de governança.

Para o sócio-diretor e CEO da Bridge & Co., Carlos Eduardo Carvalho, parte desse movimento está relacionada à pressão por velocidade e produtividade. Além disso, empresas podem acelerar projetos diante do receio de perder espaço para concorrentes. “A adoção de IA virou um tema prioritário para as organizações, mas a maturidade em governança segue muito atrás. Em muitos casos, a tecnologia está sendo implementada sem regras claras sobre uso, controle e tomada de decisão”, afirma Carvalho.

Governança de IA

Um dos desafios desse processo é o chamado AI Sprawl, expressão utilizada para definir a disseminação descoordenada de aplicações de Inteligência Artificial por diferentes áreas de uma organização. Com ferramentas mais acessíveis, departamentos podem contratar ou começar a utilizar soluções por iniciativa própria, sem uma coordenação central. Como consequência, a empresa perde visibilidade sobre quais sistemas estão em operação, quais informações são compartilhadas e quais custos estão associados a essas aplicações.

O controle financeiro é uma das áreas afetadas. Conforme o levantamento da Bridge & Co., os modelos de cobrança das plataformas de IA variam de acordo com o consumo e podem apresentar diferenças superiores a 1.000% entre soluções. Ao mesmo tempo, organizações que não acompanham esses gastos de maneira estruturada encontram maior dificuldade para projetar despesas. O crescimento do número de aplicações pode, assim, tornar os custos associados à IA menos previsíveis.

Outra frente envolve questões jurídicas e regulatórias. A ausência de mecanismos de rastreabilidade e controle pode dificultar a gestão de temas relacionados à privacidade de dados, direitos autorais e responsabilização por conteúdos produzidos com Inteligência Artificial. Nesse contexto, a governança de IA passa a envolver decisões que extrapolam a escolha da ferramenta ou do modelo utilizado pela empresa.

Segurança em foco

A segurança cibernética também ganha peso à medida que diferentes ferramentas passam a fazer parte da rotina das equipes. Soluções utilizadas sem homologação ou conhecimento das áreas responsáveis podem levar informações corporativas para ambientes sobre os quais a organização possui pouco controle.

“Quando não existem diretrizes claras, a empresa perde visibilidade sobre quais ferramentas estão sendo utilizadas e como os dados estão sendo compartilhados. Isso aumenta significativamente os riscos para o negócio”, informa Carvalho. Por isso, a estruturação da governança de IA começa antes da definição de regras específicas para uma plataforma. Segundo o executivo, o primeiro passo é estabelecer qual papel a tecnologia terá na estratégia e na geração de valor da organização.

A partir dessa definição, entram questões como responsabilidades internas, critérios para aprovação de ferramentas, processos de acompanhamento e mecanismos para gestão de riscos. Esse processo também ajuda a estabelecer quem responde pelas decisões envolvendo Inteligência Artificial e quais limites devem orientar sua utilização. Em empresas nas quais diferentes departamentos já adotam soluções de forma independente, o desafio inclui mapear o que está em uso antes de estabelecer controles comuns.

A expansão da IA nas operações corporativas, portanto, acrescenta uma nova camada às políticas de gestão de tecnologia. Enquanto as aplicações avançam para diferentes áreas, a criação de regras internas, mecanismos de supervisão e processos de controle passa a integrar a discussão sobre como incorporar essas ferramentas à rotina empresarial.