¿Por qué se implementarán mecanismos de control de la IA en el Estado tucumano?

En un paso decisivo hacia la modernización responsable del Estado, la provincia de Tucumán decidió blindar los derechos de sus ciudadanos ante el avance de las nuevas tecnologías. Mediante la adhesión a los principios de la UNESCO, la provincia busca asegurar que la Inteligencia Artificial (IA) no sea una herramienta de exclusión, sino un motor de progreso que respete la dignidad humana. Los motivos centrales de esta medida radican en la necesidad de establecer un marco ético que garantice la transparencia, la justicia y la supervisión humana, evitando que los algoritmos operen como "cajas negras" fuera del control democrático.

En lo que fue la última sesión del año, la Legislatura de Tucumán aprobó el pasado jueves, de manera pionera, una ley que reglamenta el uso de la IA para los tres poderes del Estado. La norma surgió de la unificación de proyectos presentados por Carolina Vargas Aignasse, Silvia Elías de Pérez y Raquel Nievas, entre otros.

A pesar de la unanimidad en la votación, el recinto fue escenario de un intenso debate político, tal cual lo señalar en su momento Tendencia de Noticias. Se alertó sobre el uso de estas herramientas para la manipulación ciudadana por parte de sectores de derecha y se cuestionó la postura "antiregulación" del gobierno nacional de Javier Milei.

Ética y Derechos Humanos

El texto aprobado establece un marco de cumplimiento obligatorio para los Poderes del Estado, Entes Centralizados, Descentralizados y Organismos Autárquicos. El Artículo 1° señala la adhesión de nuestra provincia "a las Recomendaciones de la Conferencia General de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) sobre la Ética de la Inteligencia Artificial, que establecen directrices para que su uso sea ético, justo, inclusivo, respetuoso de los derechos humanos, garantizando la equidad y la no discriminación".

Entre los principios rectores que el Estado tucumano deberá adoptar, se destacan:

• Respeto a los derechos humanos: Garantizar la igualdad y la dignidad humana.

• Justicia e inclusión: Asegurar que la IA no genere ni consolide desigualdades sociales o económicas.

• Transparencia: Resultados de fácil comprensión y auditables.

• Responsabilidad y supervisión: Mecanismos de control para garantizar aplicaciones seguras.

• Privacidad: Garantía de protección de datos personales según la legislación vigente.

Además, la ley otorga un derecho fundamental al ciudadano: "Toda persona que reciba una decisión automatizada por un sistema de IA tendrá derecho a ser informada de manera clara y a solicitar revisión humana de la decisión".

Los legisladores impulsores de la norma sostienen que, aunque la IA ofrece oportunidades de progreso, los desafíos éticos son urgentes. En los fundamentos del proyecto, se destaca que: "La Provincia de Tucumán debe asegurar que el uso de la IA en todos los sectores del gobierno se rija por principios éticos claros y responsables. Este proyecto tiene como objetivo que Tucumán adopte las Recomendaciones de la UNESCO sobre la Ética de la Inteligencia Artificial. Al adherir a estas recomendaciones, la provincia no solo se alinea con estándares internacionales, sino que también se compromete a implementar tecnologías que respeten estos principios y que beneficien a toda la población de manera equitativa".

Asimismo, se subrayó que los tres poderes ya están incorporando estas herramientas. Por ejemplo, el Poder Legislativo trabaja con la Facultad de Derecho de la UNT para que los ciudadanos consulten normativas en lenguaje claro. "Resulta urgente que Tucumán cuente con una ley clara y vinculante que regule el uso de la IA en todos los ámbitos del Estado", añade el texto.

El "Populismo Digital" y el debate en el recinto

El jefe de la bancada oficialista, Roque Tobías Álvarez, introdujo una dimensión política crítica al denunciar lo que llamó un "populismo digital". Según Álvarez, la manipulación de datos y la IA han permitido el ascenso de líderes de derecha: "La democracia enfrenta esta suerte de populismo digital que ha llegado al gobierno a través, justamente, del uso y la manipulación de la Inteligencia Artificial, de la Big Data a través de los datos que han sido tomados del Google, de los WhatsApp y todo lo que se dispone en internet".

Por su parte, Vargas Aignasse criticó la asimetría de poder frente a las grandes tecnológicas y la postura nacional: "Argentina, en la alineación de lo que el presidente Milei viene diciendo, es antiregulación. Sin reglas claras la innovación no se distribuye de manera justa y profundiza asimetrías existentes".

El debate también alcanzó la sustentabilidad. Vargas Aignasse advirtió que una consulta a la IA consume diez veces más energía que una búsqueda tradicional, mientras que Gabriel Yedlin vinculó esta demanda de recursos con la soberanía nacional: "Esto necesita muchísima agua, genera muchísimo calor y necesita muchísima energía. El mundo ve a la Argentina como un lugar muy apetecible por tener glaciares, agua y zonas frías".

En el ámbito judicial, se recordó el riesgo de los algoritmos como "cajas negras". Elías de Pérez enfatizó la necesidad de una "humanidad aumentada" y no "aplastada", mientras que Raquel Nievas celebró la creación de un Consejo Provincial Ético y una autoridad de aplicación (la Secretaría de Gestión Pública y Planeamiento) para prevenir errores algorítmicos.

Finalmente, el legislador Eduardo Verón Guerra cerró con una advertencia borgeana, instando a no tener una "fe ciega" en la tecnología: "Muchas veces ni analizamos lo que nos dice la IA, solamente le creemos. Así que todas estas medidas de ética son absolutamente necesarias".