Inteligência artificial e o delicado equilíbrio entre valor e risco para o negócio

Instalar a IA é muito mais fácil do que administrá-la.

A ideia de AI First replica um modelo de inovação de 1950¹. A diferença é que a pesquisa e desenvolvimento da inteligência artificial (IA), bem como toda a sua infraestrutura, se concentram em poucas corporações no mundo; enquanto as outras a adotam e contextualizam.

Já houve movimentos semelhantes no passado recente. Digital First, Mobile First e Cloud First foram bandeiras brandidas massivamente pelo setor produtivo e marcaram estágios da transformação acelerada que o mundo dos negócios vem sofrendo nos últimos 20 anos.

A IA, no entanto, tem particularidades que a diferenciam substancialmente do digital clássico, do mobile e do cloud. Apesar de os seus potenciais benefícios e consequências serem conhecidos pela ciência, a propaganda enfatiza os primeiros e esmaece as segundas.

O valor da IA

Os mais variados casos de uso da IA em negócios resumem-se a duas categorias. A IA para automação reduz ou elimina completamente o trabalho manual, enquanto a IA para aumento amplifica as capacidades cognitivas dos funcionários².

Em termos operacionais, a IA está relacionada com mais performance na execução de processos, geração de insights de negócio a partir de grandes volumes de dados e com a habilitação de novos arranjos corporativos². A criatividade organizacional também é impactada positivamente quando os colaboradores são liberados de tarefas repetitivas e realocados em atividades de maior valor agregado³.

Do ponto de vista do negócio, o uso da IA viabiliza o lançamento rápido de novos produtos e serviços ² ⁴, melhora a aderência das ofertas às necessidades do mercado⁴, aumenta a performance financeira da firma³, retém clientes e ajuda a empresa a exercer atividades que beneficiam a sociedade e o meio ambiente².

Riscos da IA

A relação com clientes, fornecedores e funcionários deteriora-se gravemente se os algoritmos de IA forem alimentados com dados enviesados que discriminam grupos populacionais específicos².

Além disso, erros crassos podem acontecer em aplicações de IA para automação e aumento devido ao viés de automação (automation bias). Skitka⁵ diferencia dois tipos de erros de julgamento humano derivados desse viés:

Erro de omissão:

"Os erros de omissão ocorrem quando as pessoas deixam de perceber um problema porque um auxílio automatizado não o detecta".

Erro de comissão:

"Os erros de comissão ocorrem quando as pessoas seguem uma diretiva ou um alerta automatizado sem verificá-lo frente às demais informações disponíveis, ou ainda a despeito de indicações contraditórias provenientes de outras fontes de informação".

Esses erros podem comprometer tanto as operações quanto a relação institucional com o cliente, caso não sejam tratados os sem número casos de exceção dos sistemas probabilísticos que mediam jornadas de experiência, transações comerciais ou relações interdepartamentais.

Ademais, a IA alucina, é restrita ao escopo do treino e dos dados que a alimentam e é dotada de uma caixa-preta que inviabiliza a explicabilidade dos resultados de forma satisfatória, sem solução definitiva na literatura até o momento⁶.

Há diversos outros riscos regulatórios, de segurança, reputação institucional, impacto social e ambiental, que implicam responsabilidade ética proativa.

Implicações para a empresa

Navegar adequadamente entre valor e risco passa pela construção da Capacidade de IA (ou AI Capability), definida por Mikalef e Gupta³ como "a habilidade da firma de selecionar, orquestrar e alavancar seus recursos específicos de IA". Segundo os autores, esses recursos são tangíveis, humanos e intangíveis.

Recursos Tangíveis

Dados: capacidade de acessar grandes volumes de dados, integrá-los em repositórios unificados conectando bases internas e externas, poder extraí-los e compartilhá-los interdepartamentalmente e higienizá-los na granularidade correta.
Tecnologia: investimento em infraestrutura e suíte de softwares apropriados e com alta performance (Cloud Computing, CPUs, GPUs, etc).
Recursos básicos: suporte financeiro, tempo e foco para atividades de pesquisa, desenvolvimento e experimentação.

Recursos Humanos

Habilidades técnicas: dispor de competências de ciência de dados e engenharia de software para executar atividades como modelagem estatística, parametrização de algoritmos, programação e machine learning.
Habilidades de negócios: capacidade da alta e média liderança de identificar oportunidades e significar a IA em casos de uso que gerem valor, conectados com a estratégia do negócio.

Recursos Intangíveis

Coordenação interdepartamental: a organização deve ter cultura de cooperação para garantir que os algoritmos sejam condizentes com as expectativas do negócio.
Capacidade de mudança organizacional: flexibilidade para mudar processos obsoletos, estruturas, valores e práticas decorrentes da introdução da IA.
Proclividade ao risco: propensão da alta liderança de assumir e sustentar riscos visando a ganhos estratégicos de médio e longo prazo.

A construção das Capacidades de IA se relaciona com as Capacidades de Inovação da organização⁷. Ela deve ser administrada com uma Governança de IA Responsável, cujos métodos se conectam com a Inovação Responsável e serão discutidos em outros artigos, sobretudo à luz da tomada de riscos recomendada por Mikalef e Gupta³.

Além disso, em diversos países, incluindo o Brasil, têm tramitado mecanismos normativos que incidirão sobre quem desenvolve e utiliza os modelos. As empresas adotantes precisam se preparar.

Conclusão

Se os sistemas determinísticos já impõem grandes desafios de gestão às empresas que contratam, desenvolvem e operam com software proprietário, os sistemas probabilísticos de IA elevam substancialmente a complexidade.

Transitar entre valor e risco ao lidar com essa tecnologia demanda alta maturidade de gestão empresarial e desenvolvimento de negócios.

[1] R. Rothwell, “Towards the Fifth‐generation Innovation Process”, International Marketing Review, v. 11, n. 1, p. 7–31, fev. 1994, doi: 10.1108/02651339410057491.

[2] I. M. Enholm, E. Papagiannidis, P. Mikalef, e J. Krogstie, “Artificial Intelligence and Business Value: a Literature Review”, Inf Syst Front, v. 24, n. 5, p. 1709–1734, out. 2022, doi: 10.1007/s10796-021-10186-w.

[3] P. Mikalef e M. Gupta, “Artificial intelligence capability: Conceptualization, measurement calibration, and empirical study on its impact on organizational creativity and firm performance”, Information & Management, v. 58, n. 3, p. 103434, abr. 2021, doi: 10.1016/j.im.2021.103434.

[4] P. G. Aquino Jr., M. Kumar, M. Yadav, J. Amoah, J. Muvingi, e A. B. Jibril, “Applications of Artificial Intelligence (AI) in Business Entrepreneurship and Start-Ups: A Systematic Literature Review and Bibliometric Analysis”, Applied AI Letters, v. 7, n. 2, p. e70031, 2026, doi: 10.1002/ail2.70031.

[5] L. J. Skitka, “Automation: Decision Aid or Decision Maker?”, NASA Ames Cooperative Research Agreement NCC 2-986, 1998.

[6] G. Romeo e D. Conti, “Exploring automation bias in human–AI collaboration: a review and implications for explainable AI”, AI & Soc, v. 41, n. 1, p. 259–278, 2025, doi: 10.1007/s00146-025-02422-7.

[7] P. A. Zawislak, A. Cherubini Alves, J. Tello-Gamarra, D. Barbieux, e F. M. Reichert, “Innovation Capability: From Technology Development to Transaction Capability”, Journal of Technology Management & Innovation, v. 7, n. 2, p. 14–27, jul. 2012, doi: 10.4067/S0718-27242012000200002.

Transparência sobre o uso de IA: a imagem que ilustra esta publicação foi criada no Gemini. O conteúdo do artigo foi inteiramente produzido pelo autor, sem a utilização de nenhuma ferramenta de IA generativa.