La Inteligencia Artificial y su Relación con el Estado de Derecho

Inteligencia Artificial y Estado de Derecho

Este trabajo fue elaborado por Palacios Jazmín, Rodriguez Sofía, Torres Thomas y Rivarola Lautaro del IPEM N° 38 Francisco Pablo de Mauro, bajo la guía de la docente María Florencia Díaz para la materia Ciudadanía y Política.

El objetivo principal es analizar el uso de la IA por parte del Estado argentino y su impacto en la sociedad y en los principios democráticos. Estudiaremos cómo esta tecnología influye en la política, la vida cotidiana y el funcionamiento del gobierno, evaluando sus beneficios y riesgos.

💡 Este trabajo te ayudará a entender cómo la IA afecta tus derechos como ciudadano y qué papel debe cumplir el Estado para protegerlos.

¿Qué es la inteligencia artificial?

La inteligencia artificial es la capacidad que tiene una máquina o sistema informático para imitar ciertas funciones de la inteligencia humana. Esto incluye aprender, razonar, resolver problemas y adaptarse a nuevas situaciones. A diferencia de los programas tradicionales, la IA puede "aprender" de la experiencia y mejorar con el tiempo.

La IA no es una tecnología reciente. Sus orígenes se remontan a los años 1950 con pioneros como Alan Turing. Pero fueron las décadas de 1970 y 1980 las que marcaron un punto de inflexión con el desarrollo de los "sistemas expertos", programas diseñados para simular el juicio de un experto humano en áreas específicas como la medicina o la ingeniería.

Existen distintos tipos de IA: la IA débil o estrecha (como Siri o los filtros de Instagram), diseñada para una tarea específica; la IA fuerte o general, que podría razonar en diferentes contextos como un ser humano (aún no existe completamente); y la superinteligencia artificial, una hipótesis futurista sobre una IA que supere ampliamente la inteligencia humana.

La IA cumple funciones como reconocimiento de patrones, toma de decisiones, automatización de tareas y predicción de eventos. Puede analizar enormes cantidades de datos en segundos, aprender de la experiencia y aplicarse a distintos contextos, aunque carece de emociones y juicio humano.

Influencia de la IA en la sociedad

La IA está presente en casi todo lo que hacemos: cuando pedimos comida por una app, buscamos en Google, preguntamos a ChatGPT o escuchamos música en Spotify. Estos sistemas analizan nuestro comportamiento y nos muestran contenido "personalizado", lo que suena genial pero puede encerrarnos en una burbuja donde solo vemos lo que ya nos gusta.

En el ámbito laboral, la IA está reemplazando tareas humanas tanto en fábricas como en oficinas. Esto mejora la productividad, pero genera preocupación por la pérdida de empleos. Muchos trabajos tradicionales están cambiando tanto que requieren nuevas habilidades para mantenerse relevantes.

La educación también está siendo transformada por la IA. Existen plataformas que personalizan el aprendizaje y corrigen tareas automáticamente. Aunque esto puede mejorar la enseñanza, hay riesgos si los algoritmos clasifican a los alumnos sin considerar su contexto humano.

⚠️ La IA nos facilita la vida en muchos sentidos, pero nos enfrenta a desafíos importantes sobre privacidad, desigualdad y el futuro del trabajo. Por eso es crucial que toda la sociedad participe en las decisiones sobre su uso.

Impacto en la política y democracia

La IA está cambiando cómo se organiza la política y funcionan las instituciones democráticas. Los gobiernos usan IA para gestionar servicios públicos, asignar turnos médicos, detectar fraudes o monitorear la seguridad. Si bien esto puede mejorar la eficiencia, también es peligroso si las decisiones se toman sin supervisión humana.

Un caso ilustrativo fue el sistema "APRENDER" en el Reino Unido, que usó IA para calificar exámenes durante la pandemia. El algoritmo terminó perjudicando a estudiantes de escuelas públicas sin justificación clara, lo que generó protestas y la cancelación del sistema.

La IA también se utiliza en campañas políticas mediante el microtargeting, donde los partidos envían mensajes personalizados según el perfil de cada persona. Esto puede manipular la opinión pública y polarizar a la sociedad, ya que cada uno recibe información diferente según lo que el algoritmo decide mostrarle.

Otro tema preocupante es el control social. En algunos países, los gobiernos usan IA para vigilar a la población e incluso puntuar el "comportamiento social" de los ciudadanos. Es fundamental debatir los límites del uso de la IA en contextos políticos para garantizar que no se use para controlar a las personas o violar sus derechos.

Ventajas y desventajas de la IA

La IA no es buena ni mala por sí sola, todo depende del uso que se le dé. Presenta beneficios significativos pero también riesgos importantes:

Ventajas:

• Eficiencia: permite hacer tareas más rápido y con menos errores
• Accesibilidad: ayuda a personas con discapacidad mediante asistentes de voz o lectores de pantalla
• Personalización: adapta servicios como educación o salud a las necesidades individuales
• Procesamiento de datos masivos: analiza información que los humanos no podríamos revisar
• Prevención y predicción: detecta patrones para predecir enfermedades, delitos o crisis

Desventajas:

• Pérdida de empleos: muchas tareas humanas están siendo reemplazadas
• Falta de transparencia: a veces no entendemos cómo toma decisiones (efecto "caja negra")
• Discriminación algorítmica: si los datos de entrenamiento tienen sesgos, la IA los reproduce
• Dependencia tecnológica: dependemos cada vez más de sistemas automáticos
• Vigilancia y pérdida de privacidad: recopilación constante de datos personales

💡 La clave está en aprovechar los beneficios de la IA mientras minimizamos sus riesgos mediante una regulación adecuada y ética.

El rol del Estado frente a la IA

El Estado cumple un papel fundamental en el desarrollo, regulación y control de la inteligencia artificial. No podemos dejar todo en manos de empresas privadas que buscan maximizar ganancias; necesitamos leyes, políticas públicas y marcos éticos que guíen el uso de la IA para beneficio de toda la sociedad.

Primero, el Estado debe garantizar que la IA no viole derechos humanos, incluyendo privacidad, no discriminación y libertad de expresión. Deben existir organismos que controlen cómo se usan los algoritmos, quién los diseña y con qué datos se entrenan.

Segundo, es crucial que el Estado promueva una educación tecnológica crítica. No basta con enseñar a usar la tecnología; hay que aprender a entenderla y cuestionarla. Esto permite que la ciudadanía participe activamente en los debates sobre IA.

Tercero, el Estado puede impulsar desarrollos públicos de IA con fines sociales, como mejorar la atención médica o la gestión ambiental, siempre con transparencia y participación ciudadana.

Finalmente, es importante que los Estados trabajen en conjunto a nivel global, ya que la IA no tiene fronteras. Si un país aplica normas estrictas pero otros no, las empresas pueden migrar hacia donde haya menos controles, por lo que se necesitan acuerdos internacionales sobre el uso ético de la IA.

La IA en Argentina

El avance de la inteligencia artificial plantea desafíos y oportunidades para Argentina, especialmente considerando nuestro sistema democrático, republicano y federal. El Estado argentino tiene el deber de proteger el interés general frente a tecnologías que pueden concentrar poder o vulnerar derechos fundamentales.

En 2019, el Gobierno lanzó el Plan Nacional de Inteligencia Artificial, que define 13 ejes estratégicos que incluyen el desarrollo de talento especializado y la implementación de I+D+i en el sector público. Este enfoque busca articular universidades, empresas y Estado para formar recursos humanos y promover regulaciones éticas.

La IA ya está presente en nuestra administración pública, optimizando procesos y mejorando servicios en áreas como salud, educación y transporte. Sin embargo, la falta de regulación específica puede llevar a decisiones automatizadas sin la adecuada supervisión humana.

En el ámbito judicial, la IA asiste en la gestión de expedientes, mientras que en seguridad se emplea para vigilancia y análisis predictivo. El problema es que actualmente no existen mecanismos formales que permitan a los ciudadanos auditar o controlar los algoritmos utilizados por el Estado.

⚠️ La IA puede profundizar desigualdades si su desarrollo queda concentrado en grandes centros urbanos o si los datos de entrenamiento incluyen prejuicios de género, clase o etnia.

Legislación y futuro de la IA en Argentina

Argentina aún no cuenta con una ley integral sobre inteligencia artificial, aunque existen alrededor de 19 proyectos en discusión que abordan aspectos como ética, transparencia y protección de datos. En 2023, la Subsecretaría de Tecnologías de la Información publicó "Recomendaciones para una Inteligencia Artificial Fiable", que incluyen principios como equidad y responsabilidad.

A diferencia de la Unión Europea, que ya aprobó el Reglamento (UE) 2024/1689 (Ley de Inteligencia Artificial) estableciendo un marco legal que clasifica los sistemas según su nivel de riesgo, en Argentina no existen mecanismos que permitan a los ciudadanos auditar los algoritmos utilizados por el Estado.

La IA representa una gran oportunidad para el desarrollo de Argentina si el Estado, el sector educativo, las empresas y la ciudadanía trabajan articuladamente. El sistema educativo podría integrar la IA de manera crítica y creativa, formando nuevas generaciones no solo como usuarios sino como creadores de tecnología.

Nuestro sector científico y tecnológico nacional tiene gran potencial, con universidades públicas de alto nivel e investigadores formados. Si el Estado fomenta la investigación en IA, podríamos generar soluciones innovadoras desde un enfoque soberano, como aplicaciones adaptadas al español y a nuestras realidades locales.

Es fundamental que el desarrollo de sistemas de IA en el Estado esté guiado por principios como la transparencia, la explicabilidad y el respeto a la privacidad.

Conclusiones

La inteligencia artificial representa uno de los avances tecnológicos más relevantes de nuestro tiempo. Desde sus inicios en los años 50 hasta la aceleración vertiginosa de la última década, la IA ha pasado a ocupar un lugar central en múltiples aspectos de nuestra vida social, económica y política.

En Argentina, reconocemos su potencial transformador para mejorar servicios públicos y la gestión estatal, pero enfrentamos limitaciones importantes. La falta de una legislación específica deja vacíos legales que podrían afectar la soberanía, la protección de datos y los derechos individuales.

Creemos que el Estado argentino debe asumir un rol activo y regulador, garantizando la transparencia, la supervisión de los algoritmos y el acceso ciudadano a la información sobre las decisiones automatizadas. La IA no debe ser un privilegio de grandes corporaciones ni un instrumento opaco de gobierno, sino una herramienta al servicio de la equidad y la democracia.

Es fundamental generar un debate informado, intergeneracional y federal sobre el uso ético de la IA, y establecer mecanismos de participación ciudadana que permitan auditar los sistemas del Estado.

💡 Lo importante es que el avance tecnológico no nos pase por encima. Tenemos que estar informados, cuestionar cómo se usa esta tecnología y participar en los debates. Porque al final, la IA no decide sola: somos las personas las que elegimos cómo y para qué la usamos.