Inteligência artificial e vieses

O caso da previsão de gravidez na adolescência em Salta

Autores

DOI:

https://doi.org/10.52712/issn.1850-0013-359

Palavras-chave:

inteligência artificial, neutralidade de valores, políticas públicas, aprendizado de máquina, algoritmo, vieses

Resumo

Diante da retórica instalada em busca de uma inteligência artificial (IA) eficiente e livre de preconceitos, nossa proposta neste artigo é argumentar por qual motivo é inadequada essa visão tão popular da IA. Além disso, examinaremos alguns de seus desvios na elaboração de políticas públicas. Em um primeiro momento, argumentaremos que é impossível -por princípio– propor uma IA valorativamente neutra, com base no que foi indicado por algumas contribuições filosóficas tanto canônicas como contemporâneas. Na segunda parte, analisaremos um caso que ilustra de modo diáfano a carga de valor que gravita na IA. Isso nos levará a investigar, na terceira parte, os diferentes níveis nos quais os diversos vieses podem influenciar a IA. Nosso objetivo central é explicitar o seguinte paradoxo: a aplicação da IA nas políticas públicas e na tomada de decisões na esfera privada, longe de ser uma ferramenta de combate às desigualdades estruturais, acaba consolidando cenários prejudiciais para as populações vulneráveis.

Downloads

Não há dados estatísticos.

Biografia do Autor

Karina Pedace, Universidad Nacional de La Matanza

Professora adjunta da Universidade Nacional de La Matanza (UNLAM), chefa de trabalhos práticos da Universidade de Buenos Aires (UBA) e pesquisadora do IIF-SADAF-CONICET, Argentina.

Tobías Schleider, Universidad Nacional del Sur

Professor e pesquisador da Universidade Nacional del Sur (UNS) e chefe de trabalhos práticos da Universidade Nacional de Mar del Plata (UNMDP), Argentina. Pesquisador do UNMDP, UNS e do Instituto Latino-Americano de Segurança e Democracia (ILSED).

Tomás Balmaceda, Universidad de Buenos Aires

Chefe de trabalhos práticos da Universidade de Buenos Aires (UBA), Argentina. Professor associado da Universidade de Ciências Empresariais e Sociais (UCES), Argentina. Pesquisador do IIF-SADAF-CONICET, Argentina.

Referências

Albino, A (2010). Gobernar es poblar. Criterios antropológicos y éticos para una correcta educación sexual. Buenos Aires: Ediciones Logos.

Burgues, C. J. C. (2010). From RankNet to LambdaRank to LambdaMART: An Overview. Microsoft Research Technical Report MSR-TR-2010-82. Recuperado de: https://www.microsoft.com/en-us/research/wp-content/uploads/2016/02/MSR-TR-2010-82.pdf

Carroll, W. (2001). I, Toto: The Autobiography of Terry, the Dog who was Toto. Nueva York: Abrams.

Danesi, C. C. (2021). The Impact of Artificial Intelligence on Women’s Rights: A Legal Point of View. En K. Miller & K. Wendt (Eds.), The Fourth Industrial Revolution and Its Impact on Ethics. Sustainable Finance (267-282). Cham: Springer.

DEIS (2017). Estadísticas vitales 2017. Buenos Aires: Ministerio de Salud de la Nación. Recuperado de: http://www.deis.msal.gov.ar/wp-content/uploads/2019/01/Serie5Nro61.pdf

Dewey, J. (1929). The Quest for Certainty: A Study of the Relation of Knowledge and Action. Londres: Allen & Unwin Ltd.

Haraway, D. (1985). Manifesto for Cyborgs: Science, Technology, and Socialist Feminism in the 1980s. Socialist Review, 80, 65–108.

Haraway, D. (2019). Seguir con el problema. Generar parentesco en el Chthuluceno. Bilbao: Consonni.

Latour, B. & Woolgar, S. (1979). Laboratory Life: The Social Construction of Scientific Facts. Los Angeles: Sage.

LIAA (2018). Sobre la predicción automática de embarazos adolescentes. Laboratorio de Inteligencia Artificial Aplicada (LIAA). Buenos Aires: Universidad de Buenos Aires. Recuperado de: https://liaa.dc.uba.ar/es/sobre-la-prediccion-automatica-de-embarazos-adolescentes/

Longino, H. (1990). Science as Social Knowledge: Values and Objectivity in Scientific Inquiry. Princeton: Princeton University Press.

Martínez Elebi, C. (2020). Inteligencia artificial y salud. Buenos Aires: Centro de Estudios en Tecnología y Sociedad (CETyS). Recuperado de: https://cetys.lat/inteligencia-artificial-y-salud/

Mallimaci, F., Giménez Béliveau, V., Esquivel, J. C. E. & Irrazábal, G. (2019). Sociedad y Religión en Movimiento. Segunda Encuesta Nacional sobre Creencias y Actitudes Religiosas en la Argentina. Informe de Investigación 25. Buenos Aires: CEIL-CONICET. Recuperado de: http://www.ceil-conicet.gov.ar/wp-content/uploads/2019/11/ii25-2encuestacreencias.pdf

Microsoft (2018). Avanza el uso de la Inteligencia Artificial en la Argentina con experiencias en el sector público, privado y ONGs. Blog News Center Microsoft Latinoamérica. Recuperado de: https://news.microsoft.com/es-xl/avanza-el-uso-de-la-inteligencia-artificial-en-la-argentina-con-experiencias-en-el-sector-publico-privado-y-ongs/

Ortiz Freuler, J. & Iglesias, C. (2018). Algoritmos e Inteligencia Artificial en Latinoamérica: un estudio de implementaciones por parte de Gobiernos en Argentina y Uruguay. Washington: World Wide Web Foundation.

Página 12 (2018). La inteligencia artificial de Urtubey. 11 de abril. Recuperado de: https://www.pagina12.com.ar/107412-la-inteligencia-artificial-de-urtubey

Pasquinelli, M. & Joler, V. (2021). El Nooscopio de manifiesto. laFuga 25, pp.1-20.

Pedace, K., Balmaceda, T. Pérez, D. Lawler, D. Zeller Echenique, M. (2020). Caja de herramientas humanísticas. Recuperado de: https://proyectoguia.lat/wp-content/uploads/2020/05/Caja-de-herramientas-Humanistas.pdf

Putnam, H. (1981). Reason, Truth, and History. Cambridge: Cambridge University Press.

Putnam, H. (2002). The collapse of the Fact/Value Dichotomy and other essays. Cambridge: Cambridge University Press.

Shannon, C. (1948). A Mathematical Theory of Communication. Bell System Technical Journal, 27(3), 379–423.

Ramallo, F. (2018). Cómo funciona el sistema para “predecir embarazos adolescentes” de Salta. Entrevista a Pablo Abelira, Coordinador de tecnología del Ministerio de Primera Infancai de Salta. Diario Uno, 12 de abril. Recuperado de: https://uno.com.ar/tecnologia/como-funciona-el-sistema-para-predecir-embarazos-adolescentes-de-salta-04122018_rJxfqbraiM

Rawls, J. (1971). A Theory of Justice. Cambridge: Harvard University Press.

Reichenbach, H. (1947). Elements of Symbolic Logic. Nueva York: Macmillan Co.

Downloads

Publicado

2022-12-26

Como Citar

Pedace, K., Schleider, T., & Balmaceda, T. (2022). Inteligência artificial e vieses: O caso da previsão de gravidez na adolescência em Salta. Revista Iberoamericana De Ciencia, Tecnología Y Sociedad - CTS, 18(53), 9–26. https://doi.org/10.52712/issn.1850-0013-359

Edição

v. 18 n. 53 (2023)

Seção

Artigos

Licença

Copyright (c) 2022 CC Attribution 4.0

Creative Commons License
Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.

Todas os números de CTS e seus artigos individuais estão sob uma licença CC-BY.

Desde 2007, a CTS proporciona acesso livre, aberto e gratuito a todos seus conteúdos, incluídos o arquivo completo da edição quadrimestral e os diversos produtos apresentados na plataforma eletrônica. Esta decisão é baseada no entendimento de que fornecer acesso livre aos materiais publicados ajuda a ter uma maior e melhor troca de conhecimentos.

Por sua vez, em se tratando da edição quadrimestral, a revista permite aos repositórios institucionais e temáticos, bem como aos sites pessoais, o autoarquivo dos artigos na versão post-print ou versão editorial, logo após da publicação da versão definitiva de cada número e sob a condição de incorporar ao autoarquivo um link direcionado à fonte original.