Ethics by design: como inovar a partir de valores humanos

O caráter probabilístico imprevisível e a narrativa envolvente da inteligência artificial têm despertado debates públicos em torno de ruídos e fatos sobre seus riscos e uso responsável. As soluções permeiam majoritariamente por regulação e governança pública e privada. Além de insuficientes, são ineficientes.

Primeiro porque reduzir a discussão ética em torno da tecnologia da moda apequena o escopo da responsabilidade empresarial ao inovar com outras tecnologias de fronteira. Segundo porque já se sabe há algumas décadas que tentar controlar a tecnologia quando ela já está disseminada é difícil, caro e lento (leia aqui e aqui), tal como é o caso da IA.

Seja em processos de P&D ou na adoção de tecnologias emergentes, que configura a imensa maioria dos casos das empresas sediadas no Brasil, ética em inovação só ganha lastro decisivo se os valores humanos forem, de fato, incluídos no processo desde o início.

Essa problemática foi um dos aspectos que inspirou a criação do Value Sensitive Design, ou Design Sensível a Valores, que será definido e detalhado adiante. Além de mostrar como a organização pode se beneficiar conjugando valores éticos com demandas de negócio, o presente artigo complementa as publicações anteriores sobre os efeitos nocivos da inovação e como inovar com inteligência artificial.

Um detalhe sobre a inovação tecnológica

A inovação tecnológica exige a capacidade de traduzir negócio em requisitos técnicos. Seja nos modelos de gestão de projetos tradicional, ágil ou híbrido, essa é uma das etapas mais críticas, sobretudo pela heterogeneidade de disciplinas envolvidas no processo.

Negócio enxerga a oportunidade, o movimento estratégico e a lacuna temporal. Tecnologia demanda decisões claras, regras explícitas e recursos. Por experiência do autor, afirma-se que resolver a tensão entre ideia e a realidade exequível é o que determina o sucesso ou o fracasso da inovação.

A engenharia de requisitos endereça a solução parcialmente, quebrando as aspirações negociais em partes menores. Se bem executada, a soma dos microrequisitos tecnológicos equivale aos macrorequisitos de negócio, lastreando adequadamente a mobilização de recursos em projetos, programas ou produtos.

A inteligência artificial generativa promete otimizar esse processo transformando prompts de negócio em software diretamente. Ainda que se possa discutir a eficácia disso, o maior problema não é técnico.

Nenhuma engenharia resolve as premissas que dão embasamento para a técnica. Uma decisão de negócio equivocada, uma estratégia frágil, um desejo enviesado, uma solução para um problema mal formulado ou uma visão limitada da inovação são alguns exemplos.

Para este último, define-se como limitada a inovação cujas premissas são tecnologia e mercado, sem considerar os riscos reputacionais, sociais, ambientais e tampouco os aspectos humanos envolvidos no processo, em sentido amplo. Quanto mais ricos os axiomas, melhores os processos e os resultados da inovação no negócio.

O que é Design Sensível a Valores?

Design Sensível a Valores (DSV), ou Value Sensitive Design, é uma prática projetual que liga valores humanos à requisitos de engenharia, desde a concepção¹. Ela convida inovadores a solucionarem criativamente os dilemas éticos da tecnologia, enriquecendo o inerte pragmatismo técnico às investidas de negócio.

A ideia surgiu na área das Ciências da Computação na Universidade de Stanford, em 1970, e evoluiu nos anos 90 sob a liderança de Batya Friedman². Preza pelo princípio de não neutralidade das atividades técnicas e pelo engajamento moral dos projetistas, a fim de compreender soluções satisfatórias às partes interessadas e afetadas da inovação³ ⁴.

Fundamenta-se em uma metodologia tripartite de investigação conceitual, empírica e técnica⁴, cada qual contendo diversos métodos para extrair informações valiosas para o processo de design e inovação.

• As investigações conceituais abrangem primeiro a identificação das partes interessadas e afetadas da tecnologia e, segundo, a definição dos valores éticos e potenciais conflitos.
• As investigações empíricas compreendem ir a campo para observar, entrevistar e realizar estudos para entender como as pessoas compreendem, dão importância e priorizam determinada gama de valores em situações reais.
• As investigações técnicas focam nas funcionalidades e atributos físicos e lógicos da tecnologia que suportam ou suprimem determinados valores. Também incluem corrigir ou projetar novos atributos conforme os achados.

Como parte do processo, Design Sensível a Valores possibilita a construção de uma hierarquia que liga conceitos abstratos a requisitos de design concretos, intermediados por normas que configuram "todo tipo de prescrições ou restrições para uma ação", segundo Van de Poel¹. Conforme o autor, um aspecto que precisa ser levado em conta ao construir a hierarquia é a relação antissimétrica entre o topo e a base. Em outras palavras, os requerimentos de design são concebidos tendo em vista os valores; porém os valores não são concebidos por causa dos requerimentos de design.

O exemplo a seguir ilustra uma aplicação prática, em que bem-estar animal é um valor, seguido de normas como área de alojamento adequada, que acompanha requisitos aderentes.

A sobrecarga moral como vetor da inovação

Em agosto de 2026, a empresa de segurança Flock Safety foi assunto central da matéria do Washington Post sobre violações de privacidade em suas câmeras de vigilância por inteligência artificial, nos Estados Unidos. Segundo a reportagem, sua vasta rede de câmeras foi utilizada por policiais para perseguir mulheres sem consentimento.

Ao projetar, é comum emergirem escolhas contraditórias entre um valor ou outro. No caso da Flock Safety o valor segurança aparentemente suprimiu a privacidade, o que ilustra um exemplo clássico de sobrecarga moral (ou moral overload), caracterizada pela suposta impossibilidade de satisfazer duas ou mais condições simultaneamente⁵.

Quando um valor é deliberadamente sobreposto a outro, gera-se um resíduo moral de obrigações não atendidas. Segundo Van den Hoven, Lokhorst e Van de Poel⁵, este resíduo serve como potencial incentivo para que indivíduos e instituições impeçam esse tipo de dilema no futuro. Assim, o avanço tecnológico e as inovações que eliminam a sobrecarga moral traduzem-se, também, em progresso moral.

Em outros termos, a inovação passa a incorporar a satisfação simultânea de condições aparentemente opostas⁵, corrigindo preventivamente os "pontos cegos" de premissas discriminatórias⁶, com marcos de decisão transparentes e auditáveis tanto para as lideranças organizacionais, quanto por reguladores externos e a sociedade civil.

Conclusão

A qualidade da inovação é resultado do processo que a gera, a começar pelas premissas. Quando o modus operandi das organizações limita-se ao destrinchamento das funcionalidades de negócio em atributos técnicos, questões éticas e morais são assumidas conforme o sistema de valores dos projetistas⁷, que não necessariamente representam o que a sociedade aprecia, de modo mais abrangente.

Promover um ambiente de abertura para valores novos e declaradamente explícitos permite que as equipes de negócio, design, engenharia e desenvolvimento tecnológico resolvam criativamente o resíduo moral, abrindo mais espaço para a inovação.

Isso implica uma mudança drástica de postura dos inovadores que interpretam a ética como um freio. Pelo contrário, ela é a centelha que molda a própria tecnologia quando sistematizada desde o início do projeto. Isso vale para a inteligência artificial, computação ubíqua, robótica, nanotecnologia, biotecnologia, IoT, blockchain, etc.

Melhor do que tentar conter danos irreparáveis quando a inovação já iniciou sua curva de difusão, é endereçar dilemas éticos e morais de forma proativa, indo além do preenchimento ritualístico de uma matriz de riscos. É aqui que o Design Sensível a Valores tem respaldo como meio estruturado para a Inovação Responsável.

[1] I. Van De Poel, “Translating Values into Design Requirements”, em Philosophy and Engineering: Reflections on Practice, Principles and Process, v. 15, D. P. Michelfelder, N. McCarthy, e D. E. Goldberg, Org., em Philosophy of Engineering and Technology, vol. 15. , Dordrecht: Springer Netherlands, 2013, p. 253–266. doi: 10.1007/978-94-007-7762-0_20.

[2] J. van den Hoven, P. E. Vermaas, e I. van de Poel, “Design for Values: An Introduction”, em Handbook of Ethics, Values, and Technological Design: Sources, Theory, Values and Application Domains, J. van den Hoven, P. E. Vermaas, e I. van de Poel, Org., Dordrecht: Springer Netherlands, 2015, p. 1–7. doi: 10.1007/978-94-007-6970-0_40.

[3] B. Friedman, P. H. Kahn, A. Borning, e A. Huldtgren, “Value Sensitive Design and Information Systems”, em Early engagement and new technologies: Opening up the laboratory, v. 16, N. Doorn, D. Schuurbiers, I. Van De Poel, e M. E. Gorman, Org., em Philosophy of Engineering and Technology, vol. 16. , Dordrecht: Springer Netherlands, 2013, p. 55–95. doi: 10.1007/978-94-007-7844-3_4.

[4] J. Davis e L. P. Nathan, “Value Sensitive Design: Applications, Adaptations, and Critiques”, em Handbook of Ethics, Values, and Technological Design: Sources, Theory, Values and Application Domains, J. van den Hoven, P. E. Vermaas, e I. van de Poel, Org., Dordrecht: Springer Netherlands, 2015, p. 11–40. doi: 10.1007/978-94-007-6970-0_3.

[5] J. Van Den Hoven, G.-J. Lokhorst, e I. Van De Poel, “Engineering and the Problem of Moral Overload”, Sci Eng Ethics, v. 18, n. 1, p. 143–155, mar. 2012, doi: 10.1007/s11948-011-9277-z.

[6] B. Friedman, D. G. Hendry, e A. Borning, “A Survey of Value Sensitive Design Methods”, Foundations and Trends® in Human–Computer Interaction, v. 11, n. 2, p. 63–125, nov. 2017, doi: 10.1561/1100000015.

[7] R. Rocco, A. Thomas, e M. Novas-Ferradás, Teaching Design For Values: Concepts, Tools & Practices. TU Delft OPEN Books, 2022. doi: 10.34641/mg.54.

[8] The Royal Institution, Responsible innovation in a digital world - with Jeroen van den Hoven, (25 de outubro de 2025). Acesso em: 2 de outubro de 2026. [Vídeo online]. Disponível em: https://www.youtube.com/watch?v=QypzRK4kjXQ

Transparência sobre o uso de IA: a imagem de capa e os gráficos adaptados dos artigos originais foram gerados pelo Gemini. Já o texto foi inteiramente produzido por Henrique Locatelli, um humano, sem a utilização de nenhuma ferramenta de IA generativa.

Inovação Responsável (inovacaoresponsavel.org) © 2026 por Henrique Locatelli está licenciado com uma Licença Creative Commons Atribuição-NãoComercial 4.0 Internacional (CC BY-NC 4.0)