Desvendando os efeitos nocivos da inovação

A narrativa dominante coloca a inovação como uma panaceia para resolver desafios em todos os âmbitos da sociedade. Noticiários, políticas públicas, escolas, eventos e o meio empresarial têm reforçado essa ideia ininterruptamente, com razões legítimas.

Antigamente, a inovação era um termo pejorativo usado para denunciar a perturbação da ordem política e social¹. Ela passou a ser vista como algo desejável na história recente, quando foi compreendida como fenômeno econômico².

Um dos seus mantras é que a tomada de risco é parte natural do processo. Não é comum, entretanto, o aprofundamento sobre a qualidade, o contexto, a escala desses riscos e quem assume as consequências.

O trabalho de Biggi e Giuliani³ abre a caixa de Pandora da inovação ao organizar 125 estudos revisados por pares, em cinco assuntos interrelacionados. Alguns dos efeitos colaterais podem parecer contraintuitivos:

1. Consequências sobre a adoção das tecnologias digitais no trabalho, que envolve estudos sobre danos psicológicos, aumento do turnover e exaustão das pessoas.
2. Transições insustentáveis, que concentra pesquisas sobre os danos da inovação ao meio ambiente, mesmo aquelas que visam o impacto positivo.
3. Efeitos adversos do crescimento, que aponta efeitos negativos no PIB, intensificação da desigualdade social e desemprego.
4. Perigos das tecnologias emergentes, que mostra os riscos e implicações éticas em tecnologias como Big Data, IoT e nanotecnologia.
5. Lado sombrio da Inovação Aberta, que agrupa estudos sobre o comprometimento de segredos industriais e a perda da performance da firma que utiliza esse mecanismo.

Para economizar o tempo do leitor, o presente ensaio abordará duas tecnologias emergentes, ilustrando seus mais variados impactos. Após discutir a computação ubíqua e a inteligência artificial, medidas apropriadas serão recomendadas para inovadores e empreendedores colocarem em prática em suas rotinas, em qualquer setor.

O desafio das tecnologias emergentes

Ao lidar com novas tecnologias, inovadores frequentemente são limitados em conhecimento sobre seus impactos, enquanto os órgãos reguladores e a sociedade civil são desprovidos de repertório para discernir apropriadamente suas mais variadas implicações, no tempo adequado.

Ademais, a neutralidade da tecnologia é um ideal inexistente na realidade⁴, ainda que haja quem acredite nele. E mesmo que determinada tecnologia seja concebida para propósitos justos, o conhecido fenômeno function creep (ou fluência funcional)⁵ descreve como sua finalidade é imperceptivelmente alterada à luz de novas contingências.

A internet e a computação ubíqua combinadas foram responsáveis por grandes transformações sociais nos últimos 30 anos, conectando bilhões de pessoas em redes de troca de informação. Facilitaram, ainda, o surgimento de novos modelos de negócio em escala com custos marginais decrescentes, como o fenômeno da uberização e das Big Techs, alçando empresas como Apple, Meta e Alphabet ao posto das mais valiosas do planeta. Concomitantemente, essas tecnologias foram e ainda são vetores de contradições éticas relevantes.

A captura irrestrita e não consentida de dados comportamentais humanos para criar algoritmos capazes de predizer, influenciar e monetizar novos comportamentos por estímulo e recompensa, configuram severas violações de privacidade e direitos fundamentais, que foram devidamente refletidas no trabalho de Shoshana Zuboff⁶ sobre capitalismo de vigilância e Big Other, referência contrastante à obra 1984 de George Orwell.

O impacto dessas práticas é amplo. Por exemplo, recentemente a Meta aceitou pagar um acordo de US$ 16,68 bilhões em uma disputa judicial com estados americanos, por design expositivo e viciante para crianças e adolescentes⁷. Já no Brasil, o Estatuto Digital da Criança e do Adolescente entrou em vigor em 2026, vedando artifícios publicitários e caixas de recompensa. Entre o trabalho de Zuboff e o normativo, são mais de 11 anos irrecuperáveis para o público afetado, com consequências que estão para ser conhecidas em sua totalidade.

Outro exemplo é o surveillance pricing, em que os preços de produtos e serviços variam de pessoa a pessoa, de acordo com dados pessoais e de navegação dos clientes⁸. Segundo o TheHill, a companhia aérea JetBlue está sendo processada judicialmente por precificar passagens baseada nessa prática⁹, o que mostra a sensibilidade do assunto sob a perspectiva do consumidor.

Com a inteligência artificial generativa, os desafios são ainda maiores, uma vez que a vasta maioria das pessoas desconhece os mecanismos estatísticos geradores dos seus outputs, tampouco suas bases de treinamento. Em última análise, isso leva à equivocada caracterização desses sistemas como inteligentes, conscientes, criativos e divinos¹⁰, mediando relações humanas e institucionais que tocam o insensato e o perturbador.

Em seu artigo sobre pareidolia semântica, Luciano Floridi¹⁰ elabora sobre o espaço emocional que a IA passa a ocupar na vida humana, ao mencionar o chatbot Replika, que oferece amizade e relações amorosas a mais de 40 milhões de usuários, e a parceria entre a Mattel e a OpenAI para a criação de brinquedos infantis com os sistemas algorítmicos embutidos.

Além disso, diversos autores trazem argumentos e evidências que transferir tarefas intelectuais à IA gera atrofia cognitiva¹¹, decadência de habilidades críticas (deskilling)¹² e o enfraquecimento da agência moral de quem tem como suporte esses sistemas automatizados¹³, ocasionando perda de accountability¹⁴.

Por exemplo, a empresa Air Canada alegou que seu chatbot era uma "entidade legal separada que é responsável por seus próprios atos", ao ser processada após instruir erroneamente uma cliente a comprar passagem aérea pelo preço cheio, segundo a CBC ¹⁵. No Brasil, se um atendimento automatizado gerar prejuízos ao consumidor, as indenizações e o dano reputacional à marca são potencialmente relevantes¹⁶.

Controlar uma tecnologia probabilística, cujos outputs são difíceis de prever e explicar, e cujas salvaguardas de segurança demandam cobertura de uma enorme variedade de casos de exceção, impõe aos inovadores e empreendedores capacidades específicas e compromissos éticos que superam a simples boa vontade, sobretudo quando o desenvolvimento da IA ultrapassa a velocidade dos Estados de tramitar e aprovar leis apropriadas, como no caso do Marco Legal da IA brasileiro, que circula no Congresso desde 2023.

Se isoladamente o dano potencial é flagrante, a convergência entre IA, robótica, nanotecnologia e edição genética, nos setores militar e civil, acrescentam camadas de responsabilidade ética ímpares, que serão objetos de análise em publicações futuras. A essência do que merece ser discutido aqui é se, independentemente da tecnologia, há como endereçar os dilemas éticos, sociais, ambientais e reputacionais das inovações, de forma proativa. Para tanto, é crucial entender os processos de inovação majoritariamente empregados por profissionais da área.

A essência dos processos de inovação

Para além dos termos herméticos que os inovadores utilizam, as abordagens dominantes da inovação baseiam-se em duas premissas que ficam claras no trabalho de Rothwell¹⁷, que sistematizou cinco gerações de processos de inovação.

A primeira premissa sustenta-se no conhecimento tecnocientífico para desenvolver um produto e empurrá-lo para o mercado (technology push). A segunda, parte de uma necessidade de mercado para desenvolver soluções satisfatórias (market pull)¹⁷.

A forma como as firmas inovam muda, porém os axiomas permanecem. Isto fica claro se traçar paralelos entre as cinco gerações de Rothwell¹⁷ com os processos praticados hoje, conforme experiência do próprio autor do presente ensaio. Modelos TRL, stage-gate, customer experience, growth marketing, design thinking, lean startup, agilidade em escala e inovação aberta, por exemplo, dialogam total ou parcialmente com as gerações dos anos 1950, 60, 80 e 90.

Em 2026, um dos debates mais presentes na gestão da inovação é como tornar os processos acima mais eficientes com inteligência artificial generativa, o que desvia o foco para algo de importância ínfima. Há, no entanto, quem lance olhares críticos sobre os resultados que essas abordagens alcançam para propor premissas e processos novos ou complementares.

Como corrigir a trajetória da inovação?

Technology push e market pull são a repetição do padrão business as usual da inovação: artefatos novos são produzidos sob essas premissas, introduzidos no mercado, pagam (ou não) o prêmio de risco, geram danos colaterais e governos regulam anos depois.

Cabem pelo menos três hipóteses não excludentes para conjecturar por que essas abordagens têm causado efeitos colaterais nocivos.

A primeira é a evidente pressão por resultados imediatos aliada à grande incerteza do retorno do investimento da inovação. Quando o ambiente competitivo exige falhas rápidas e sucesso cedo, a régua mais próxima a ser empregada é a que mede tecnologia-mercado, e a mais distante é a que mede sociedade-meio ambiente. Isso delineia todo o mecanismo de incentivos do agente inovador para a primeira, não para a segunda. O checklist escopo, entrega e ROI é o menos dispendioso a priori para as organizações que desejam investir em inovação.

A segunda é a falência da gestão de riscos preditivos e quantitativos. Sheila Jasanoff¹⁸ pondera que tais métodos dão roupagem de racionalidade gerencial àquilo que já é conhecido em detrimento do que é desconhecido, sobretudo no longo prazo. Hoffmann-Riem e Wynne¹⁹ acrescentam que, nesse cenário, a incerteza quantificável é confundida com a ignorância. O controle ex ante das tecnologias emergentes exige abordagens de avaliação de riscos tão apuradas, que nem sempre há conhecimento, disposição ou recursos para executá-las apropriadamente.

A terceira hipótese é um somatório de vieses de otimismo, autoatribuição e desinteresse genuíno sobre os impactos prejudiciais da inovação. Aqui, o agente inovador deposita confiança absoluta no sucesso pela via tecnologia-mercado e transfere a culpa a fatores externos sobre as consequências sociais e ambientais. Ele normaliza a ideia que a inovação produz rupturas indesejadas e que o papel da empresa não é se preocupar com as externalidades negativas, mas sim do governo.

Se as três hipóteses tiverem nexo, é preciso elevar urgentemente o nível do entendimento sobre tecnologia e inovação. Não são entretenimento, nem fins em si mesmas. Elas têm poder de reescrever as regras da realidade no nível ontológico, fundamentando um novo Mundo²⁰. Portanto, os três primeiros tópicos a serem endereçados deveriam ser 1) que tipo de Mundo queremos construir, 2) qual o papel da inovação no negócio que deseja prosperar nesse futuro e 3) como a inovação será empenhada.

Technology push e market pull precisam ser atualizados para acomodar valores desde a origem, em linha com as transformações desejadas, tal como von Schomberg refletiu ao definir Pesquisa e Inovação Responsável à luz da incapacidade governamental de prever as consequências da exploração de organismos geneticamente modificados²¹.

Ainda que a inovação continue sendo originada das premissas tecnologia-mercado, ao orientar a produção dos artefatos a valores, evitam-se danos colaterais indesejáveis e incorporam-se atributos de diferenciação ao produto final que seriam impensáveis nas abordagens tradicionais.

O framework AIRR da Inovação Responsável²² prescreve os mecanismos antecipatórios e inclusivos para que esses valores sejam capturados e refletidos na governança e no processo de inovação desde o princípio, contemplando diversas ferramentas e abordagens como Mini-públicos, Social Labs, Foresight Estratégico, Bow-tie Model, Avaliação Construtiva da Tecnologia e Design Sensível a Valores. Este último liga valores como privacidade, bem-estar, segurança e justiça a requisitos de engenharia, produzindo simultaneamente soluções inovadoras e preventivas de pontos cegos discriminatórios²³.

Enxerga-se duas abordagens possíveis para dar o primeiro passo. A primeira é ativa, em que o empreendedor, líder empresarial ou inovador tem motivação intrínseca a conduzir o negócio transformando positivamente a sociedade, sem gerar danos nocivos no processo. A segunda é defensiva; provém do interesse institucional em resguardar sua reputação frente aos riscos da inovação que se deseja praticar.

Em ambos os casos, a adoção da Inovação Responsável e suas ferramentas vêm como complemento estruturante e exequível. Sua forma varia de empresa para empresa conforme cultura, maturidade e capacidades organizacionais.

Conclusão

A palavra inovação, sozinha, não vem com etiqueta de boa ou má. O que a significa é a natureza da transformação e os dividendos que gera não só para o empreendedor no sentido Schumpeteriano, como para a sociedade, meio ambiente e futuras gerações. Nesse sentido, é imprudente continuar a busca da inovação pela inovação, sob a forma como vem sendo executada hegemonicamente.

Inovar praticando institucionalmente o bem está ao alcance daqueles que têm consciência da sua responsabilidade, sobretudo quando as tecnologias emergentes que propulsionam novos produtos, serviços, processos ou modelos de negócio inserem-se em praça pública de forma ruidosa e potencialmente danosa.

[1] B. Godin, Innovation Contested, 0 ed. Routledge, 2015. doi: 10.4324/9781315855608.

[2] J. A. Schumpeter, Teoria do desenvolvimento econômico: uma investigação sobre lucros, capital, crédito, juro e o ciclo econômico. em Os Economistas. São Paulo: Abril Cultural, 1982.

[3] G. Biggi e E. Giuliani, “The noxious consequences of innovation: what do we know?”, Industry and Innovation, v. 28, n. 1, p. 19–41, jan. 2021, doi: 10.1080/13662716.2020.1726729.

[4] L. Winner, “Do Artifacts Have Politics?”, Deadalus, v. 109, n. 1, p. 121–136, 1980, [Online]. Disponível em: http://www.jstor.org/stable/20024652

[5] B.-J. Koops, “The concept of function creep”, Law, Innovation and Technology, v. 13, n. 1, p. 29–56, jan. 2021, doi: 10.1080/17579961.2021.1898299.

[6] S. Zuboff, “Big other: Surveillance Capitalism and the Prospects of an Information Civilization”, Journal of Information Technology, v. 30, n. 1, p. 75–89, mar. 2015, doi: 10.1057/jit.2015.5.

[7] T. Bradshaw, “Meta reaches $16.68bn settlement over social media harms to children”, The Irish Times, 26 de agosto de 2026. [Online]. Disponível em: https://www.irishtimes.com/business/2026/08/26/meta-to-pay-up-to-167bn-to-settle-childrens-social-media-harm-case/

[8] Federal Trade Commission, “Surveillance Pricing”, Federal Trade Commission. Acesso em: 15 de setembro de 2026. [Online]. Disponível em: https://www.ftc.gov/news-events/features/surveillance-pricing

[9] S. Brams, “JetBlue accused of using personal data to set ticket prices in new lawsuit”, The Hill, Washington, DC, 23 de abril de 2026. Acesso em: 15 de setembro de 2026. [Online]. Disponível em: https://thehill.com/policy/transportation/5845912-jetblue-data-collection-lawsuit/

[10] L. Floridi, “AI and Semantic Pareidolia: When We See Intelligent Consciousness where there is None”, Philos. Technol., v. 39, n. 1, p. 36, fev. 2026, doi: 10.1007/s13347-026-01052-1.

[11] H. S. Sætra, “Generative AI: Here to stay, but for good?”, Technology in Society, v. 75, p. 102372, nov. 2023, doi: 10.1016/j.techsoc.2023.102372.

[12] A. Tsamados, L. Floridi, e M. Taddeo, “Human control of AI systems: from supervision to teaming”, AI Ethics, v. 5, n. 2, p. 1535–1548, abr. 2025, doi: 10.1007/s43681-024-00489-4.

[13] I. Verdiesen, F. Santoni De Sio, e V. Dignum, “Accountability and Control Over Autonomous Weapon Systems: A Framework for Comprehensive Human Oversight”, Minds & Machines, v. 31, n. 1, p. 137–163, mar. 2021, doi: 10.1007/s11023-020-09532-9.

[14] B. D. Mittelstadt, P. Allo, M. Taddeo, S. Wachter, e L. Floridi, “The ethics of algorithms: Mapping the debate”, Big Data & Society, v. 3, n. 2, p. 2053951716679679, dez. 2016, doi: 10.1177/2053951716679679.

[15] J. Proctor, “Air Canada found liable for chatbot’s bad advice on plane tickets”, CBC News, Vancouver, 16 de fevereiro de 2024. Acesso em: 15 de setembro de 2026. [Online]. Disponível em: https://www.cbc.ca/news/canada/british-columbia/air-canada-chatbot-lawsuit-1.7116416

[16] V. Toriyama, “Seu atendimento foi feito por uma máquina e seus direitos, ignorados”, Mercado&Consumo. Acesso em: 15 de setembro de 2026. [Online]. Disponível em: https://mercadoeconsumo.com.br/22/04/2026/artigos/seu-atendimento-foi-feito-por-uma-maquina-e-seus-direitos-ignorados/

[17] R. Rothwell, “Towards the Fifth‐generation Innovation Process”, International Marketing Review, v. 11, n. 1, p. 7–31, fev. 1994, doi: 10.1108/02651339410057491.

[18] S. Jasanoff, “Technologies of Humility: Citizen Participation in Governing Science”, Minerva, n. 41, p. 223–224, 2003, doi: https://doi.org/10.1023/A:1025557512320.

[19] H. Hoffmann-Riem e B. Wynne, “In risk assessment, one has to admit ignorance”, Nature, v. 416, n. 6877, p. 123–123, mar. 2002, doi: 10.1038/416123a.

[20] V. Blok, “The ontology of creation: towards a philosophical account of the creation of World in innovation processes”, Found Sci, v. 29, n. 2, p. 503–520, 2022, doi: 10.1007/s10699-022-09848-y.

[21] R. von Schomberg, Towards responsible research and innovation in the information and communication technologies and security technologies fields. LU: Publications Office, 2011. doi: 10.2777/58723.

[22] J. Stilgoe, R. Owen, e P. Macnaghten, “Developing a framework for responsible innovation”, Research Policy, v. 42, n. 9, p. 1568–1580, nov. 2013, doi: 10.1016/j.respol.2013.05.008.

[23] I. Van De Poel, “Translating Values into Design Requirements”, em Philosophy and Engineering: Reflections on Practice, Principles and Process, v. 15, D. P. Michelfelder, N. McCarthy, e D. E. Goldberg, Org., em Philosophy of Engineering and Technology, vol. 15. , Dordrecht: Springer Netherlands, 2013, p. 253–266. doi: 10.1007/978-94-007-7762-0_20.

Transparência sobre o uso de IA: as imagens desse artigo foram geradas pelo Gemini. Este texto foi inteiramente produzido por Henrique Locatelli, um humano, sem a utilização de nenhuma ferramenta de IA generativa.

Inovação Responsável (inovacaoresponsavel.org) © 2026 por Henrique Locatelli está licenciado com uma Licença Creative Commons Atribuição-NãoComercial 4.0 Internacional (CC BY-NC 4.0)