Os dilemas da inteligência artificial
Dos sistemas sociotécnicos à ética do design
DOI:
https://doi.org/10.35362/issn.1850-0013-1050Palavras-chave:
ética, responsabilidade, sistema sociotécnico, inteligência artificial, designResumo
Este artigo explora o debate sobre a ética no desenvolvimento da inteligência artificial (IA), com o objetivo de contribuir para a compreensão de sistemas sociotécnicos que integram a deliberação ética e a codificação de critérios de decisão no desenvolvimento de sistemas inteligentes. Começa com um exame das questões de ética e responsabilidade no contexto de sistemas inteligentes e agentes autônomos. A seguir, são considerados os marcos interpretativos dos bens públicos (ciência aberta) e dos bens privados (ciência comercial), abordando os discursos de duas entidades multilaterais e de duas empresas, respectivamente. Este artigo considera a coconstrução de sistemas sociotécnicos onde a relevância da ética e da responsabilidade é reconhecida, o desenvolvimento computacional é concebido como uma prática social e as demandas éticas são transferidas operacionalmente para sistemas inteligentes através de métodos de design orientado para valor. Por fim, discute-se a relação entre ética e desenvolvimento tecnológico no que diz respeito à cocriação de sistemas sociotécnicos e sistemas inteligentes que atendam a critérios de responsabilidade.
Downloads
Referências
Adams, R., Adeleke, F., Florido, A., de Magalhães Santos, L. G., Grossman, N., Junck, L. & Stone, K. (2024). Global Index on Responsible AI 2024. Recuperado de: https://agatadata.com/wp-content/uploads/2024/11/Global-Index-on-Responsible-AI-2024-Corrected-Edition-25_10_24-Gobierno-de-Canada-y-USAID.pdf.
AI Index Steering Committee (2024). The AI Index 2024 Annual Report. Standford: Stanford University. Recuperado de: https://aiindex.stanford.edu/report/.
Askell, A., Brundage, M. & Hadfield, G. (2019). The Role of Cooperation in Responsible AI Development. Recuperado de: https://arxiv.org/pdf/1907.04534.
Brey, P. & Dainow, B. (2024). Ethics by design for artificial intelligence. AI Ethics, 4, 1265–1277. DOI: https://doi.org/10.1007/s43681-023-00330-4.
Buijsman, S., Klenk, M. & van den Hoven, J. (2025). Ethics of AI. Toward a “Design for Values” Approach. En N. Smuha (Ed.), The Cambridge Handbook of the Law, Ethics and Policy of Artificial Intelligence (59-78). Cambridge: Cambridge University Press.
Canca, C. (2020). Operationalizing AI Ethics Principles. Communications of the ACM, 63(12). DOI: https://doi.org/10.1145/3430368.
Coeckelbergh, M. (2021). Ética de la inteligencia artificial. Madrid: Cátedra.
Comisión Europea (2019). Directrices éticas para una IA fiable. Recuperado de: https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai.
Cortina, A. (2024). ¿Ética o ideología de la inteligencia artificial? El eclipse de la razón comunicativa en una sociedad tecnologizada. Madrid: Paidós.
European Commission (2021). Ethics By Design and Ethics of Use Approaches for Artificial Intelligence. Recuperado de: https://ec.europa.eu/info/funding-tenders/opportunities/docs/2021-2027/horizon/guidance/ethics-by-design-and-ethics-of-useapproaches-for-artificial-intelligence_he_en.pdf.
Fecher, B. & Friesike, S. (2014). Open Science: One Term, Five Schools of Thought. Opening Science. The Evolving Guide on How the Internet is Changing Research, Collaboration and Scholarly Publishing. Springer.
Feenberg, A. (2005). Teoría crítica de la tecnología. Revista Iberoamericana de Ciencia, Tecnología y Sociedad, 2(5), 109-123. Recuperado de: https://ojs.revistacts.net/index.php/CTS/article/view/1018.
Feng, P. & Feenberg, A. (2008). Thinking about Design: Critical Theory of Technology and the Design Process. En P. Kroes, P. Vermaas, A. Light, S. Moore (Eds.), Philosophy and Design (105-118). Dordrecht: Springer. DOI: https://doi.org/10.1007/978-1-4020-6591-0_8.
Floridi, L. (2023). The Ethics of Artificial Intelligence. Principles, Challenges, and Opportunities. Oxford: Oxford University Press. DOI: https://doi.org/10.1093/oso/9780198883098.001.0001.
Fuenmayor, R. (1991). Truth and openness: An epistemology for interpretive systemology. Systems Practice, 4(5). Recuperado de: http://www.saber.ula.ve/bitstream/handle/123456789/15918/fuenmayor-truth.pdf.
Giuliano, H. (2013). La teoría crítica de la tecnología: una aproximación desde la ingeniería. Revista Iberoamericana de Ciencia, Tecnología y Sociedad, 8(24), 63-74. Recuperado de: https://ojs.revistacts.net/index.php/CTS/article/view/626.
Google (2024). Principios de la IA. Objetivos para crear IA beneficiosa. Recuperado de: https://ai.google/static/documents/ES-419-AI-Principles.pdf.
Gordaliza, E. (2021). Inteligencia Artificial Responsable desde el diseño. Recuperado de: https://www.bbva.com/wp-content/uploads/2021/06/InteligenciaArtificialResponsable_EstherDelaTorre_BBVA.pdf.
Habermas, J. (1999). Teoría de la acción comunicativa. I. Racionalización de la acción y racionalidad social. Madrid: Trotta.
Hess, C. & Ostrom, E. (2016). Los bienes comunes del conocimiento. Madrid: Traficantes de Sueños.
Lauwaert, L. & Oimann, A. (2025). Moral Responsibility and Autonomous Technologies. Does AI Face a Responsibility Gap? En N. Smuha (Ed.), The Cambridge Handbook of the Law, Ethics and Policy of Artificial Intelligence (101-116). Cambridge: Cambridge University Press.
MacIntyre, A. (2013). Tras la virtud. Madrid: Crítica.
Microsoft (2022). Microsoft Responsible AI Standard. Recuperado de: https://blogs.microsoft.com/wp-content/uploads/prod/sites/5/2022/06/Microsoft-Responsible-AIStandard-v2-General-Requirements-3.pdf.
Microsoft (2025). Promoción de prácticas de inteligencia artificial responsables. Recuperado de: https://www.microsoft.com/es-es/ai/responsible-ai.
Misselhorn, C. (2022). Artificial Moral Agents: Conceptual Issues and Ethical Controversy. En S. Voeneky, P. Kellmeyer, O. Mueller & W. Burgard (Eds.), The Cambridge Handbook of Responsible Artificial Intelligence. Interdisciplinary Perspectives (31-49). Cambridge: Cambridge University Press.
OpenAI (S.F.) OpenAI Charter. Recuperado de: https://openai.com/charter/.
Open Source Initiative (2025). The Open Source AI Definition – 1.0. Recuperado de: https://opensource.org/ai/open-source-ai-definition.
Pérez, C. (2020). Revoluciones tecnológicas y paradigmas tecnoeconómicos. En D. Suárez, A. Erbes & M. F. Barletta (Eds.), Teoría de la innovación, evolución, tendencias y desafíos: herramientas conceptuales para la enseñanza y el aprendizaje (134-159). Madrid: Ediciones Complutense & UNGS.
Roca, S. (2025). Defectuoso por diseño: Relaciones de poder en la esfera digital. Teknokultura. Revista de Cultura Digital y Movimientos Sociales, 22(1), 69-76. DOI: https://doi.org/10.5209/tekn.95708.
Suárez, J. L. (2023). La condición digital. Madrid: Trotta.
Terrones, A. (2020). Inteligencia artificial, responsabilidad y compromiso cívico y democrático. Revista Iberoamericana de Ciencia, Tecnología y Sociedad, 44(15), 253-276. Recuperado de: https://ojs.revistacts.net/index.php/CTS/article/view/166.
UNESCO (2021). Proyecto de recomendación sobre la ciencia abierta. Recuperado de: https://unesdoc.unesco.org/ark:/48223/pf0000378841_spa.
UNESCO (2022). Recomendación sobre la ética de la inteligencia artificial. Recuperado de: https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa.
UNESCO (2023). Key facts UNESCO’s Recommendation on the Ethics of Artificial Intelligence. Recuperado de: https://unesdoc.unesco.org/ark:/48223/pf0000385082.
Van den Hoven, J., Vermaas, P. & Van de Poel, I. (Ed.) (2015). Handbook of Ethics, Values, and Technological Design. Sources, Theory, Values and Application Domains. Reino Unido: Springer. DOI: https://doi.org/10.1007/978-94-007-6970-0.
Van der Velden, M. & Mörtberg, Ch. (2015). Participatory Design and Design for Values. En J. van den Hoven, P. E. Vermaas e I. van de Poel (Eds.), Handbook of Ethics, Values, and Technological Design. Sources, Theory, Values and Application Domains (41-66). Dordrecht: Springer.
Wade, M. & Yokoi, T. (2024). How to Implement AI — Responsibly. Harvard Business Review, 10 de mayo. Recuperado de: https://hbr.org/2024/05/how-to-implement-airesponsibly.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2025 CC Attribution 4.0
Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.
Todas os números de CTS e seus artigos individuais estão sob uma licença CC-BY.
Desde 2007, a CTS proporciona acesso livre, aberto e gratuito a todos seus conteúdos, incluídos o arquivo completo da edição quadrimestral e os diversos produtos apresentados na plataforma eletrônica. Esta decisão é baseada no entendimento de que fornecer acesso livre aos materiais publicados ajuda a ter uma maior e melhor troca de conhecimentos.
Por sua vez, em se tratando da edição quadrimestral, a revista permite aos repositórios institucionais e temáticos, bem como aos sites pessoais, o autoarquivo dos artigos na versão post-print ou versão editorial, logo após da publicação da versão definitiva de cada número e sob a condição de incorporar ao autoarquivo um link direcionado à fonte original.
