Riesgos, seguridad y gobernanza de la IA: revisión sistemática del marco legislativo argentino
DOI:
https://doi.org/10.62174/rs.11084Abstract
Las tecnologías de inteligencia artificial (IA) presentan riesgos capaces de afectar a personas, infraestructuras críticas, derechos fundamentales e incluso al funcionamiento democrático. En Argentina, múltiples proyectos de ley buscan establecer marcos regulatorios para su desarrollo, implementación y uso, pero lo hacen desde enfoques heterogéneos. En este trabajo, el equipo de investigación de TecnocenoLab analiza esos proyectos desde la perspectiva de la seguridad (safety) y establece un contrapunto con el enfoque de la protección (security). Para ello, se examinaron los proyectos de ley presentados en ambas cámaras del Congreso Nacional argentino hasta diciembre de 2025. Se identificaron en total cincuenta y tres proyectos relacionados con IA, de los cuales once proponen una ley integral. Sobre estos últimos se realizó una revisión sistemática. El análisis se estructuró a partir de ocho elementos clave: definición de IA, establecimiento de principios de la IA, definición de ciclo de vida, definición inequívoca de seguridad y protección, identificación de categorías de riesgo, modelo de gobernanza de la IA, tratamiento de incidentes y/o accidentes de IA y perspectiva proactiva o reactiva con respecto a la seguridad y la protección. Esta matriz analítica desarrollada por el TecnocenoLab es original y consideramos que es el aporte más sustantivo de este artículo a futuras investigaciones y discusiones acerca de una política integral para la IA. Los datos muestran la necesidad de adoptar un enfoque estatal centrado en la seguridad sistémica de la IA. Una regulación eficaz debe incorporar definiciones operativas, un ciclo de vida preciso, taxonomías de riesgo y sistemas de gobernanza robustos, incluyendo autoridades independientes de investigación, para mitigar peligros y fortalecer la protección de la sociedad y del orden democrático.Downloads
References
Bengio, Yoshua et al. (2024). Managing extreme AI risks amid rapid progress. Science 384, 842-845.
Costa, Flavia, Mónaco, Julián, Covello, Alejandro, Novidelsky, Iago et al (2023). Desafíos de la Inteligencia Artificial generativa. Tres escalas y dos enfoques transversales. Question/Cuestión. Nro.76, Vol.3.
Costa, Flavia y Mónaco, Julián (2024). ¿Pueden las humanidades coevolucionar con los humanos (y las máquinas)? Inteligencia artificial, sociedad artificial y los desafíos para las ciencias sociales. Voces en el Fénix, (93). Facultad de Ciencias Económicas, Universidad de Buenos Aires.
Crawford, Kate (2022). Atlas de inteligencia artificial. Poder, política y costos planetarios. Buenos Aires, Fondo de Cultura Económica.
Hendrycks, Dan, Mazeika, Mantas y Woodside, Thomas (2023). An overview of catastrophic AI Risk (CAIS).
Hendrycks, Dan (2023). AI Safety, Ethics, and Society Course: Artificial Intelligence Fundamentals. En Internet: bit.ly/3Nu1C6o.
Hendrycks, Dan, Nicholas Carlini, John Schulman and Jacob Steinhardt. “Unsolved Problems in ML Safety”, ArXiv abs/2109.13916 (2021): n. pp.1, 11.
Jefatura de Gabinete de Ministros, Secretaría de Gobierno de Modernización. (2019). Resolución 1523/2019 (RESOL-2019-1523-APN-SGM#JGM). Boletín Oficial de la República Argentina, 18 de septiembre de 2019. https://www.boletinoficial.gob.ar/detalleAviso/primera/216860/20190918
Jefatura de Gabinete de Ministros, Subsecretaría de Tecnologías de la Información (2023). Disposición SSTI 2/2023 (DI-2023-2-APN-SSTI#JGM). Boletín Oficial de la República Argentina, 1 de junio de 2023. https://www.boletinoficial.gob.ar/detalleAviso/primera/287679/2023060
Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO). (2021). Recomendación sobre la ética de la inteligencia artificial.
Organización para la Cooperación y el Desarrollo Económicos (OCDE). (2024a). Principios de la OCDE sobre inteligencia artificial. OECD. https://legalinstruments.oecd.org/en/instruments/oecd-legal-0449
Organización para la Cooperación y el Desarrollo Económicos (OCDE). (2024b). Memorando explicativo sobre la definición actualizada de un sistema de inteligencia artificial (OECD Artificial Intelligence Papers, n.º 8). OECD Publishing.
Organización para la Cooperación y el Desarrollo Económicos (OCDE). (2024c). Defining AI incidents and related terms (OECD Artificial Intelligence Papers, n.º 16). OECD Publishing.
Parlamento Europeo y Consejo de la Unión Europea. (2024). Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo de 13 de junio de 2024. https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=CELEX:32024R1689
TecnocenoLab. (2023). Proyecto: Desafíos e impactos de la inteligencia artificial. Marcos normativos, riesgos y retos para la calidad democrática en la Argentina. https://tecnocenolab.ar/proyecto/
Uuk, Risto et al. (2024). A Taxonomy of Systemic Risks from General-Purpose AI. RAND Working Paper Series Forthcoming. http://dx.doi.org/10.2139/ssrn.5030173
Proyectos analizados
Proyecto de ley que dispone controlar el desarrollo, la implementación y utilización de sistemas basados en inteligencia artificial dentro del territorio argentino. En Internet: Proyecto Romero
Proyecto de ley que crea el Instituto Nacional de Inteligencia Artificial. En Internet: Proyecto García Larraburu
Proyecto de ley sobre sistemas de inteligencia artificial. En Internet: Proyecto Sapag Pilatti
Proyecto de ley de regulación de la inteligencia artificial. En Internet: Proyecto Doñate
Proyecto de ley que establece un marco jurídico para el desarrollo, la comercialización, distribución y utilización de los sistemas de inteligencia artificial. En Internet: Proyecto Fama
Proyecto de ley que establece el marco legal para la investigación, el desarrollo, uso y regulación de la inteligencia artificial. En Internet: Proyecto Ávila
Marco Normativo y de Desarrollo de los Sistemas de IA. En Internet: Proyecto Gollán
Ley Nacional de Inteligencia Artificial. En Internet: Proyecto Chumpitaz
Marco regulatorio de la inteligencia artificial. Creación del Registro Nacional de Sistemas de Inteligencia Artificial. En Internet: Proyecto Giuliano
Régimen jurídico aplicable para el uso responsable de la inteligencia artificial (IA), en la República Argentina. En Internet: Proyecto Brügge
Responsabilidad algorítmica y promoción de la robótica, algoritmos verdes e inteligencia artificial en la República Argentina. En Internet: Proyecto Ferraro
Downloads
Published
Issue
Section
License
Los/as autores/as conservan los derechos de autor y ceden a la revista el derecho de la primera publicación con el trabajo registrado con la licencia de atribución de Creative Commons Atribución-NoComercial-CompartirIgual 4.0 Internacional. Ésta permite a terceros utilizar lo publicado siempre que mencionen la autoría del trabajo y a la primera publicación en esta revista. La postulación de manuscritos supone, de parte de las autorías, el pleno acuerdo con las mismas.
La cesión de derechos no exclusivos implica también la autorización por parte de los/as autores/as para que el trabajo sea incluido en el repositorio institucional de la Facultad de Ciencias Sociales y difundido a través de las bases de datos que el editor considere adecuadas para su indización, con el objetivo de incrementar la visibilidad de la publicación y de sus autores.
Revista Sociedad conserva el depósito de todas las versiones (presentada, aceptada y publicada) en el repositorio institucional de la Facultad de Ciencias Sociales de la Universidad de Buenos Aires, sin periodo de embargo.
Los/as autores/as pueden establecer por separado acuerdos adicionales para la distribución no exclusiva de la versión de la obra publicada en la revista (por ejemplo, situarlo en un repositorio institucional o publicarlo en un libro), con el reconocimiento de haber sido publicado primero en esta revista.
