Inteligencia artificial y sesgos

El caso de la predicción del embarazo adolescente en Salta

Autores/as

DOI:

https://doi.org/10.52712/issn.1850-0013-359

Palabras clave:

inteligencia artificial, sesgos, neutralidad valorativa, políticas públicas, algoritmo, aprendizaje automatizado

Resumen

Frente a la retórica instalada en clave de una inteligencia artificial (IA) eficiente y libre de prejuicios, nuestra propuesta en este artículo es argumentar por qué esta visión tan popular de la IA es inadecuada y examinar algunas de sus derivas en el trazado de políticas públicas. En primera instancia, argumentaremos que es imposible –por principio– plantear una IA valorativamente neutra, a partir de lo señalado por algunos aportes filosóficos tanto canónicos como contemporáneos. En la segunda sección analizaremos un caso que ilustra de modo diáfano la carga valorativa que gravita en la IA. Esto nos llevará a indagar, en la tercera sección, los diferentes niveles en los cuales los sesgos pueden tener injerencia en la IA. Nuestro objetivo central es explicitar la paradoja consistente en cómo la aplicación de IA en políticas públicas y en la toma de decisiones en ámbitos privados, lejos de ser una herramienta para combatir desigualdades estructurales, termina consolidando escenarios perjudiciales para poblaciones vulnerables.

Descargas

Los datos de descargas todavía no están disponibles.

Biografía del autor/a

Karina Pedace, Universidad Nacional de La Matanza

Profesora adjunta en la Universidad Nacional de La Matanza (UNLAM), jefa de trabajos prácticos en la Universidad de Buenos Aires (UBA) e investigadora en IIF-SADAF-CONICET, Argentina.

Tobías Schleider, Universidad Nacional del Sur

Profesor titular e investigador en la Universidad Nacional del Sur (UNS) y jefe de trabajos prácticos en la Universidad Nacional de Mar del Plata (UNMDP), Argentina. Investigador en UNMDP, UNS y el Instituto Latinoamericano de Seguridad y Democracia (ILSED).

Tomás Balmaceda, Universidad de Buenos Aires

Jefe de trabajos prácticos en la Universidad de Buenos Aires (UBA), Argentina. Profesor asociado en la Universidad de Ciencias Empresariales y Sociales (UCES), Argentina. Investigador en IIF-SADAF-CONICET, Argentina.

Citas

Albino, A (2010). Gobernar es poblar. Criterios antropológicos y éticos para una correcta educación sexual. Buenos Aires: Ediciones Logos.

Burgues, C. J. C. (2010). From RankNet to LambdaRank to LambdaMART: An Overview. Microsoft Research Technical Report MSR-TR-2010-82. Recuperado de: https://www.microsoft.com/en-us/research/wp-content/uploads/2016/02/MSR-TR-2010-82.pdf

Carroll, W. (2001). I, Toto: The Autobiography of Terry, the Dog who was Toto. Nueva York: Abrams.

Danesi, C. C. (2021). The Impact of Artificial Intelligence on Women’s Rights: A Legal Point of View. En K. Miller & K. Wendt (Eds.), The Fourth Industrial Revolution and Its Impact on Ethics. Sustainable Finance (267-282). Cham: Springer.

DEIS (2017). Estadísticas vitales 2017. Buenos Aires: Ministerio de Salud de la Nación. Recuperado de: http://www.deis.msal.gov.ar/wp-content/uploads/2019/01/Serie5Nro61.pdf

Dewey, J. (1929). The Quest for Certainty: A Study of the Relation of Knowledge and Action. Londres: Allen & Unwin Ltd.

Haraway, D. (1985). Manifesto for Cyborgs: Science, Technology, and Socialist Feminism in the 1980s. Socialist Review, 80, 65–108.

Haraway, D. (2019). Seguir con el problema. Generar parentesco en el Chthuluceno. Bilbao: Consonni.

Latour, B. & Woolgar, S. (1979). Laboratory Life: The Social Construction of Scientific Facts. Los Angeles: Sage.

LIAA (2018). Sobre la predicción automática de embarazos adolescentes. Laboratorio de Inteligencia Artificial Aplicada (LIAA). Buenos Aires: Universidad de Buenos Aires. Recuperado de: https://liaa.dc.uba.ar/es/sobre-la-prediccion-automatica-de-embarazos-adolescentes/

Longino, H. (1990). Science as Social Knowledge: Values and Objectivity in Scientific Inquiry. Princeton: Princeton University Press.

Martínez Elebi, C. (2020). Inteligencia artificial y salud. Buenos Aires: Centro de Estudios en Tecnología y Sociedad (CETyS). Recuperado de: https://cetys.lat/inteligencia-artificial-y-salud/

Mallimaci, F., Giménez Béliveau, V., Esquivel, J. C. E. & Irrazábal, G. (2019). Sociedad y Religión en Movimiento. Segunda Encuesta Nacional sobre Creencias y Actitudes Religiosas en la Argentina. Informe de Investigación 25. Buenos Aires: CEIL-CONICET. Recuperado de: http://www.ceil-conicet.gov.ar/wp-content/uploads/2019/11/ii25-2encuestacreencias.pdf

Microsoft (2018). Avanza el uso de la Inteligencia Artificial en la Argentina con experiencias en el sector público, privado y ONGs. Blog News Center Microsoft Latinoamérica. Recuperado de: https://news.microsoft.com/es-xl/avanza-el-uso-de-la-inteligencia-artificial-en-la-argentina-con-experiencias-en-el-sector-publico-privado-y-ongs/

Ortiz Freuler, J. & Iglesias, C. (2018). Algoritmos e Inteligencia Artificial en Latinoamérica: un estudio de implementaciones por parte de Gobiernos en Argentina y Uruguay. Washington: World Wide Web Foundation.

Página 12 (2018). La inteligencia artificial de Urtubey. 11 de abril. Recuperado de: https://www.pagina12.com.ar/107412-la-inteligencia-artificial-de-urtubey

Pasquinelli, M. & Joler, V. (2021). El Nooscopio de manifiesto. laFuga 25, pp.1-20.

Pedace, K., Balmaceda, T. Pérez, D. Lawler, D. Zeller Echenique, M. (2020). Caja de herramientas humanísticas. Recuperado de: https://proyectoguia.lat/wp-content/uploads/2020/05/Caja-de-herramientas-Humanistas.pdf

Putnam, H. (1981). Reason, Truth, and History. Cambridge: Cambridge University Press.

Putnam, H. (2002). The collapse of the Fact/Value Dichotomy and other essays. Cambridge: Cambridge University Press.

Shannon, C. (1948). A Mathematical Theory of Communication. Bell System Technical Journal, 27(3), 379–423.

Ramallo, F. (2018). Cómo funciona el sistema para “predecir embarazos adolescentes” de Salta. Entrevista a Pablo Abelira, Coordinador de tecnología del Ministerio de Primera Infancai de Salta. Diario Uno, 12 de abril. Recuperado de: https://uno.com.ar/tecnologia/como-funciona-el-sistema-para-predecir-embarazos-adolescentes-de-salta-04122018_rJxfqbraiM

Rawls, J. (1971). A Theory of Justice. Cambridge: Harvard University Press.

Reichenbach, H. (1947). Elements of Symbolic Logic. Nueva York: Macmillan Co.

Descargas

Publicado

2022-12-26

Cómo citar

Pedace, K., Schleider, T., & Balmaceda, T. (2022). Inteligencia artificial y sesgos : El caso de la predicción del embarazo adolescente en Salta. Revista Iberoamericana De Ciencia, Tecnología Y Sociedad - CTS, 18(53), 9–26. https://doi.org/10.52712/issn.1850-0013-359

Número

Vol. 18 Núm. 53 (2023)

Sección

Artículos

Licencia

Derechos de autor 2022 CC Attribution 4.0

Creative Commons License

Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.

Todos los números de CTS y sus artículos individuales están bajo una licencia CC-BY. 

Desde 2007, CTS proporciona un acceso libre, abierto y gratuito a todos sus contenidos, incluidos el archivo completo de su edición cuatrimestral y los diferentes productos presentados en su plataforma electrónica. Esta decisión se sustenta en la creencia de que ofrecer un acceso libre a los materiales publicados ayuda a un mayor y mejor intercambio del conocimiento.

A su vez, para el caso de su edición cuatrimestral, la revista permite a los repositorios institucionales y temáticos, así como también a las web personales, el auto-archivo de los artículos en su versión post-print o versión editorial, inmediatamente después de la publicación de la versión definitiva de cada número y bajo la condición de que se incorpore al auto-archivo un enlace a la fuente original.