Los dilemas de la inteligencia artificial
De los sistemas sociotécnicos a la ética del diseño
DOI:
https://doi.org/10.35362/issn.1850-0013-1050Palabras clave:
ética, responsabilidad, sistema sociotécnico, inteligencia artificial, diseñoResumen
Este artículo explora el debate acerca de la ética en el desarrollo de inteligencia artificial (IA), con el propósito de contribuir con la comprensión de sistemas sociotécnicos que integren la deliberación ética y la codificación de criterios de decisión en el desarrollo de sistemas inteligentes. Se inicia con un examen de los temas de ética y responsabilidad en el contexto de los sistemas inteligentes y los agentes autónomos. A continuación, se consideran los marcos interpretativos de bienes públicos (ciencia abierta) y bienes privados (ciencia mercantil), abordando los discursos de dos entes multilaterales y dos empresas, respectivamente. En este artículo se considera la coconstrucción de sistemas sociotécnicos donde se reconozca la pertinencia de la ética y la responsabilidad, se conciba el desarrollo informático como práctica social y las demandas éticas sean transferidas operativamente a los sistemas inteligentes a través de métodos de diseño orientado a valores. Finalmente, se discute la relación entre la ética y el desarrollo tecnológico con respecto a la cocreación de sistemas sociotécnicos y sistemas inteligentes que cumplan con criterios de responsabilidad.
Descargas
Citas
Adams, R., Adeleke, F., Florido, A., de Magalhães Santos, L. G., Grossman, N., Junck, L. & Stone, K. (2024). Global Index on Responsible AI 2024. Recuperado de: https://agatadata.com/wp-content/uploads/2024/11/Global-Index-on-Responsible-AI-2024-Corrected-Edition-25_10_24-Gobierno-de-Canada-y-USAID.pdf.
AI Index Steering Committee (2024). The AI Index 2024 Annual Report. Standford: Stanford University. Recuperado de: https://aiindex.stanford.edu/report/.
Askell, A., Brundage, M. & Hadfield, G. (2019). The Role of Cooperation in Responsible AI Development. Recuperado de: https://arxiv.org/pdf/1907.04534.
Brey, P. & Dainow, B. (2024). Ethics by design for artificial intelligence. AI Ethics, 4, 1265–1277. DOI: https://doi.org/10.1007/s43681-023-00330-4.
Buijsman, S., Klenk, M. & van den Hoven, J. (2025). Ethics of AI. Toward a “Design for Values” Approach. En N. Smuha (Ed.), The Cambridge Handbook of the Law, Ethics and Policy of Artificial Intelligence (59-78). Cambridge: Cambridge University Press.
Canca, C. (2020). Operationalizing AI Ethics Principles. Communications of the ACM, 63(12). DOI: https://doi.org/10.1145/3430368.
Coeckelbergh, M. (2021). Ética de la inteligencia artificial. Madrid: Cátedra.
Comisión Europea (2019). Directrices éticas para una IA fiable. Recuperado de: https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai.
Cortina, A. (2024). ¿Ética o ideología de la inteligencia artificial? El eclipse de la razón comunicativa en una sociedad tecnologizada. Madrid: Paidós.
European Commission (2021). Ethics By Design and Ethics of Use Approaches for Artificial Intelligence. Recuperado de: https://ec.europa.eu/info/funding-tenders/opportunities/docs/2021-2027/horizon/guidance/ethics-by-design-and-ethics-of-useapproaches-for-artificial-intelligence_he_en.pdf.
Fecher, B. & Friesike, S. (2014). Open Science: One Term, Five Schools of Thought. Opening Science. The Evolving Guide on How the Internet is Changing Research, Collaboration and Scholarly Publishing. Springer.
Feenberg, A. (2005). Teoría crítica de la tecnología. Revista Iberoamericana de Ciencia, Tecnología y Sociedad, 2(5), 109-123. Recuperado de: https://ojs.revistacts.net/index.php/CTS/article/view/1018.
Feng, P. & Feenberg, A. (2008). Thinking about Design: Critical Theory of Technology and the Design Process. En P. Kroes, P. Vermaas, A. Light, S. Moore (Eds.), Philosophy and Design (105-118). Dordrecht: Springer. DOI: https://doi.org/10.1007/978-1-4020-6591-0_8.
Floridi, L. (2023). The Ethics of Artificial Intelligence. Principles, Challenges, and Opportunities. Oxford: Oxford University Press. DOI: https://doi.org/10.1093/oso/9780198883098.001.0001.
Fuenmayor, R. (1991). Truth and openness: An epistemology for interpretive systemology. Systems Practice, 4(5). Recuperado de: http://www.saber.ula.ve/bitstream/handle/123456789/15918/fuenmayor-truth.pdf.
Giuliano, H. (2013). La teoría crítica de la tecnología: una aproximación desde la ingeniería. Revista Iberoamericana de Ciencia, Tecnología y Sociedad, 8(24), 63-74. Recuperado de: https://ojs.revistacts.net/index.php/CTS/article/view/626.
Google (2024). Principios de la IA. Objetivos para crear IA beneficiosa. Recuperado de: https://ai.google/static/documents/ES-419-AI-Principles.pdf.
Gordaliza, E. (2021). Inteligencia Artificial Responsable desde el diseño. Recuperado de: https://www.bbva.com/wp-content/uploads/2021/06/InteligenciaArtificialResponsable_EstherDelaTorre_BBVA.pdf.
Habermas, J. (1999). Teoría de la acción comunicativa. I. Racionalización de la acción y racionalidad social. Madrid: Trotta.
Hess, C. & Ostrom, E. (2016). Los bienes comunes del conocimiento. Madrid: Traficantes de Sueños.
Lauwaert, L. & Oimann, A. (2025). Moral Responsibility and Autonomous Technologies. Does AI Face a Responsibility Gap? En N. Smuha (Ed.), The Cambridge Handbook of the Law, Ethics and Policy of Artificial Intelligence (101-116). Cambridge: Cambridge University Press.
MacIntyre, A. (2013). Tras la virtud. Madrid: Crítica.
Microsoft (2022). Microsoft Responsible AI Standard. Recuperado de: https://blogs.microsoft.com/wp-content/uploads/prod/sites/5/2022/06/Microsoft-Responsible-AIStandard-v2-General-Requirements-3.pdf.
Microsoft (2025). Promoción de prácticas de inteligencia artificial responsables. Recuperado de: https://www.microsoft.com/es-es/ai/responsible-ai.
Misselhorn, C. (2022). Artificial Moral Agents: Conceptual Issues and Ethical Controversy. En S. Voeneky, P. Kellmeyer, O. Mueller & W. Burgard (Eds.), The Cambridge Handbook of Responsible Artificial Intelligence. Interdisciplinary Perspectives (31-49). Cambridge: Cambridge University Press.
OpenAI (S.F.) OpenAI Charter. Recuperado de: https://openai.com/charter/.
Open Source Initiative (2025). The Open Source AI Definition – 1.0. Recuperado de: https://opensource.org/ai/open-source-ai-definition.
Pérez, C. (2020). Revoluciones tecnológicas y paradigmas tecnoeconómicos. En D. Suárez, A. Erbes & M. F. Barletta (Eds.), Teoría de la innovación, evolución, tendencias y desafíos: herramientas conceptuales para la enseñanza y el aprendizaje (134-159). Madrid: Ediciones Complutense & UNGS.
Roca, S. (2025). Defectuoso por diseño: Relaciones de poder en la esfera digital. Teknokultura. Revista de Cultura Digital y Movimientos Sociales, 22(1), 69-76. DOI: https://doi.org/10.5209/tekn.95708.
Suárez, J. L. (2023). La condición digital. Madrid: Trotta.
Terrones, A. (2020). Inteligencia artificial, responsabilidad y compromiso cívico y democrático. Revista Iberoamericana de Ciencia, Tecnología y Sociedad, 44(15), 253-276. Recuperado de: https://ojs.revistacts.net/index.php/CTS/article/view/166.
UNESCO (2021). Proyecto de recomendación sobre la ciencia abierta. Recuperado de: https://unesdoc.unesco.org/ark:/48223/pf0000378841_spa.
UNESCO (2022). Recomendación sobre la ética de la inteligencia artificial. Recuperado de: https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa.
UNESCO (2023). Key facts UNESCO’s Recommendation on the Ethics of Artificial Intelligence. Recuperado de: https://unesdoc.unesco.org/ark:/48223/pf0000385082.
Van den Hoven, J., Vermaas, P. & Van de Poel, I. (Ed.) (2015). Handbook of Ethics, Values, and Technological Design. Sources, Theory, Values and Application Domains. Reino Unido: Springer. DOI: https://doi.org/10.1007/978-94-007-6970-0.
Van der Velden, M. & Mörtberg, Ch. (2015). Participatory Design and Design for Values. En J. van den Hoven, P. E. Vermaas e I. van de Poel (Eds.), Handbook of Ethics, Values, and Technological Design. Sources, Theory, Values and Application Domains (41-66). Dordrecht: Springer.
Wade, M. & Yokoi, T. (2024). How to Implement AI — Responsibly. Harvard Business Review, 10 de mayo. Recuperado de: https://hbr.org/2024/05/how-to-implement-airesponsibly.
Descargas
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2025 CC Attribution 4.0
Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.
Todos los números de CTS y sus artículos individuales están bajo una licencia CC-BY.
Desde 2007, CTS proporciona un acceso libre, abierto y gratuito a todos sus contenidos, incluidos el archivo completo de su edición cuatrimestral y los diferentes productos presentados en su plataforma electrónica. Esta decisión se sustenta en la creencia de que ofrecer un acceso libre a los materiales publicados ayuda a un mayor y mejor intercambio del conocimiento.
A su vez, para el caso de su edición cuatrimestral, la revista permite a los repositorios institucionales y temáticos, así como también a las web personales, el auto-archivo de los artículos en su versión post-print o versión editorial, inmediatamente después de la publicación de la versión definitiva de cada número y bajo la condición de que se incorpore al auto-archivo un enlace a la fuente original.
