Os “problemas da inteligência artificial”
Desafios éticos e políticos na era digital
DOI:
https://doi.org/10.35362/issn.1850-0013-1063Palavras-chave:
inteligência artificial, ética da IA, governança tecnológica, direitos humanos, assimetrias de poderResumo
Este artigo tem como objetivo analisar os “problemas da IA” investigando como são definidos e por meio de quais discursos se manifestam, com ênfase nas relações de poder assimétricas que moldam seu desenho, desenvolvimento e uso. Em particular, examina três eixos de problematização que passaram a integrar as agendas governamentais e sociais: i) a inserção dos sistemas de IA na vida cotidiana das pessoas e as formas de sua adoção; ii) a convergência tecnológica e os debates em torno da coleta e do uso de dados pessoais; e iii) a crescente influência das grandes corporações tecnológicas na configuração da esfera pública digital e na consolidação de discursos hegemônicos. Por fim, o artigo reflete sobre a urgência de proteger e assegurar o pleno exercício do direito humano à ciência, tanto no que se refere ao acesso às tecnologias digitais quanto, sobretudo, à construção de instâncias de participação para a tomada de decisões relativas ao seu desenho, desenvolvimento, uso e regulamentação.
Downloads
Referências
Aguilar Villanueva, L. (1993). Problemas públicos y agenda de gobierno. México: Porrúa Grupo Editorial.
Andorno, R. (2023). Neurotecnologías y derechos humanos en América Latina y el Caribe: Desafíos y propuestas de política pública. París: UNESCO. Recuperado de: https://unesdoc.unesco.org/ark:/48223/pf0000387079.
Bertoni, E. (2024). Tecnologías y derechos humanos. En M. Moisés Sánchez, C. Colombara & N. Monti (Eds.), En defensa de los neuroderechos (28-33). Santiago de Chile: KAMANAU. Recuperado de: https://defensaneuroderechos.org.
Bohoslavsky, J. (2022). Pluralidad epistémica y derechos humanos en pandemia. En J. Bohoslavsky (Comp.), Ciencias y pandemia: una epistemología para los derechos humanos (19-44). La Plata: EDULP. Recuperado de: https://libros.unlp.edu.ar/index.php/unlp/catalog/book/1920.
Breilh, J. (2022). La pandemia y el derecho a una ciencia veraz, humilde y emancipadora. En J. Bohoslavsky (Comp.), Ciencias y pandemia: una epistemología para los derechos humanos (12-18). La Plata: EDULP. Recuperado de: https://libros.unlp.edu.ar/index.php/unlp/catalog/book/1920.
Cantero Gamito, M. (2024). Neurotecnología y privacidad: Chile lidera el cambio legal. En M. Moisés Sánchez, C. Colombara & N. Monti (Eds.), En defensa de los neuroderechos (42-47). Santiago de Chile: KAMANAU. Recuperado de: https://defensaneuroderechos.org.
Cantero Gamito, M. & Bosoer, L. (2025). Desafíos estructurales y regulatorios de la IA. En M. Cantero Gamito & L. Bosoer (Eds.), REDemocracIA: Guía para una aproximación democrática a la inteligencia artificial en Iberoamérica (3-51). San Domenico di Fiesole: Instituto Universitario Europeo. Recuperado de: https://cadmus.eui.eu/bitstream/handle/1814/78169/REDemocracIA_Guia_2025.pdf?sequence=4&isAllowed=y.
CLAD (2023). Carta Iberoamericana de Inteligencia Artificial en la Administración Pública. Recuperado de: https://clad.org/declaraciones-consensos/carta-iberoamericana-deinteligencia-artificial-en-la-administracion-publica/.
Coeckelbergh, M. (2022). The political philosophy of AI. Cambridge: Polity Press.
Collett, C., Neff, G. & Gouvea Gomes, L. (2022). Los efectos de la IA en la vida laboral de las mujeres. UNESCO y OCDE. Recuperado de: https://unesdoc.unesco.org/ark:/48223/pf0000380871.
Council of the European Union (2023). León Declaration on European Neurotechnology: A human-centric and rights-oriented approach 2023. Informal Meeting of Telecommunications Ministers. Recuperado de: https://parleu2023.es/declaration-ofleon-on-parliamentarism.
D’Ignazio, C. & Klein, L. (2023). Feminismo de datos. Cambridge: MIT Press. Recuperado de: https://data-feminism.mitpress.mit.edu/pub/bchsq3az.
Díaz, C. (1997). El ciclo de las políticas públicas locales: Notas para su abordaje y reconstrucción. En J. C. Venecia (Comp.), Políticas públicas y desarrollo local (43-73). FLACSO.
Filgueiras, F. (2023). Desafíos de gobernanza de inteligencia artificial en América Latina: Infraestructura, descolonización y nueva dependencia. Revista del CLAD Reforma y Democracia, 87, 44-70. Recuperado de: https://revista.clad.org/ryd/article/view/desafios-gobernanza-inteligencia-artificial-America-Latina.
Future of Life Institute (2023). Pause Giant AI Experiments: An Open Letter. Recuperado de: https://futureoflife.org/open-letter/pause-giant-ai-experiments/.
García-López, E., Muñoz, J. M. & Andorno, R. (2021). Editorial: Neurorights and mental freedom: Emerging challenges to debates on human dignity and neurotechnologies. Frontiers in Human Neuroscience, 15, 823570. DOI: https://doi.org/10.3389/fnhum.2021.823570.
Gómez Mont, C., May Del Pozo, C., Martínez Pinto, C. & Martín del Campo Alcocer, A. (2024). La inteligencia artificial al servicio del bien social en América Latina y el Caribe: Panorámica regional e instantáneas de doce países. C Minds y Grupo BID. Recuperado de: https://publications.iadb.org/es/la-inteligencia-artificial-al-servicio-del-bien-socialen-america-latina-y-el-caribe-panor%C3%A1mica-regional-e-instant%C3%A1neasde-doce-paises.
Ienca, M. (2021). On Neurorights. Frontier in Human Neuroscience, 15, 701258. DOI: https://doi.org/10.3389/fnhum.2021.701258.
Ienca, M. & Andorno, R. (2017). Towards new human rights in the age of neuroscience and neurotechnology. Life Sciences, Society and Policy, 13, 5. DOI: https://doi.org/10.1186/s40504-017-0050-1.
Innerarity Grau, D. (2013). Un mundo de todos y de nadie. Buenos Aires: Ediciones Paidós.
Innerarity Grau, D. (2025). Introducción. En M. Cantero Gamito & L. Bosoer (Eds.), REDemocracIA: Guía para una aproximación democrática a la inteligencia artificial en Iberoamérica. San Domenico di Fiesole: Instituto Universitario Europeo. Recuperado de: https://cadmus.eui.eu/bitstream/handle/1814/78169/REDemocracIA_Guia_2025.pdf?sequence=4&isAllowed=y.
Lamm, E., González Alarcón, N. & Flores Urich Sass, A. (2023). Construyendo una inteligencia artificial ética desde el diseño: La perspectiva de la UNESCO. En RICYT (Ed.), El Estado de la Ciencia 2023 (61-72). Buenos Aires: OEI & UNESCO. Recuperado de: https://oei.int/oficinas/argentina/noticias/dossier-sobre-inteligenciaartificial-en-el-estado-de-la-ciencia-2023/.
López Baroni, M. (2019). Las narrativas de la inteligencia artificial. Revista de Bioética y Derecho, 46, 5-28. DOI: https://doi.org/10.1344/rbd2019.0.27280.
Majone, G. (1997). Evidencia, Argumentación y Persuasión en la Formulación de Políticas. México: Fondo de Cultura Económica.
Mantegna, M. (2022). No soy robot: Construyendo un marco ético accionable para analizar las dimensiones de impacto de la inteligencia artificial. Buenos Aires: Universidad de San Andrés.
Mantegna, M. (2024). Datos neuronales a juicio: La Corte Suprema de Chile aborda el primer caso mundial de neuroderechos. En M. Moisés Sánchez, C. Colombara & N. Monti (Eds.), En defensa de los neuroderechos (147-156). Santiago de Chile: KAMANAU. Recuperado de: https://defensaneuroderechos.org.
Monti, N. (2025). A propósito del proceso previo ante la OEA de la Declaración de Principios Interamericanos en materia de neurociencias, neurotecnologías y derechos humanos. En M. Cantero Gamito & L. Bosoer (Eds.), REDemocracIA: Guía para una aproximación democrática a la inteligencia artificial en Iberoamérica (93-97). San Domenico di Fiesole: Instituto Universitario Europeo. Recuperado de: https://cadmus.eui.eu/bitstream/handle/1814/78169/REDemocracIA_Guia_2025.pdf?sequence=4&isAllowed=y.
Oszlak, O. & O´Donnell, G. (1976). Estado y políticas estatales en América Latina: Hacia una estrategia de investigación. Buenos Aires: CEDES.
Peller, J. (2023). Capítulo 4: IA y riesgo existencial en OK Pandora. Buenos Aires: El Gato y la Caja.
Pedace, K., Balmaceda Huarte, T. & Schleider, T. (2023). What Artificial Intelligence is hiding Microsoft and vulnerable girls in northern Argentina. En State of Power 2023: Digital Power (76-84). Amsterdam: Transnational Institute. Recuperado de: https://www.tni.org/en/article/what-artificial-intelligence-is-hiding.
Rikap, C. (2023). Inteligencia artificial: Reemplazo, hibridación… ¿progreso? Nueva Sociedad, 307, 67-81. Recuperado de: https://nuso.org/articulo/307-inteligenciaartificial-reemplazo-hibridacion-progreso/.
Rikap, C. (2025). DeepSeek, China y la IA: un desafío geopolítico. Opinión. Nueva Sociedad, febrero. Recuperado de: https://nuso.org/articulo/deepseek-china-y-la-iaun-desafio-geopolitico/.
Sadin, E. (2024). La vida espectral: Pensar la era del metaverso y las inteligencias artificiales generativas. Buenos Aires: Caja Negra.
Siverino, P. (2025). Neurotecnologías y derechos humanos: El caso chileno a la luz de los aportes de instrumentos internacionales. En M. Cantero Gamito & L. Bosoer (Eds.), REDemocracIA: Guía para una aproximación democrática a la inteligencia artificial en Iberoamérica (98-102). San Domenico di Fiesole: Instituto Universitario Europeo. Recuperado de: https://cadmus.eui.eu/bitstream/handle/1814/78169/REDemocracIA_Guia_2025.pdf?sequence=4&isAllowed=y.
UNESCO (2021). Report of the International Bioethics Committee of UNESCO (IBC) on the ethical issues of neurotechnology. Recuperado de: https://unesdoc.unesco.org/ark:/48223/pf000037872.
UNESCO (2023). Conferencia Internacional sobre la Ética de la Neurotecnología. Recuperado de: https://www.unesco.org/es/articles/etica-de-la-neurotecnologia.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2025 CC Attribution 4.0
Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.
Todas os números de CTS e seus artigos individuais estão sob uma licença CC-BY.
Desde 2007, a CTS proporciona acesso livre, aberto e gratuito a todos seus conteúdos, incluídos o arquivo completo da edição quadrimestral e os diversos produtos apresentados na plataforma eletrônica. Esta decisão é baseada no entendimento de que fornecer acesso livre aos materiais publicados ajuda a ter uma maior e melhor troca de conhecimentos.
Por sua vez, em se tratando da edição quadrimestral, a revista permite aos repositórios institucionais e temáticos, bem como aos sites pessoais, o autoarquivo dos artigos na versão post-print ou versão editorial, logo após da publicação da versão definitiva de cada número e sob a condição de incorporar ao autoarquivo um link direcionado à fonte original.
