Nueva resolución clasifica riesgos como en UE: inaceptable, alto, limitado y nulo.
El gobernador de Buenos Aires, Axel Kicillof, promulgó la primera normativa provincial sobre el uso de inteligencia artificial (IA) en el ámbito público, mediante resolución publicada este viernes en el Boletín Oficial. La medida, impulsada por la Subsecretaría de Gobierno Digital, regula el desarrollo, adquisición y despliegue de IA en todos los organismos estatales, con énfasis en la protección de derechos fundamentales y la transparencia. Surge en el contexto del reciente escándalo en Zárate, donde se designó a un chatbot como directora general, generando cuestionamientos sobre su autoridad y legalidad.
La resolución adopta un modelo de clasificación por riesgo, inspirado en el Reglamento de IA de la Unión Europea (AI Act, 2024), con cuatro categorías: riesgo inaceptable (prohibido), alto, limitado y nulo.
Los sistemas inaceptables —como técnicas subliminales o clasificación social/scoring para control o discriminación— quedan vedados, al violar la igualdad y el orden constitucional-democrático.
Los de alto riesgo, que impactan derechos individuales (biometría, infraestructura crítica, educación, justicia, empleo, democracia y administración pública), requieren evaluación de impacto algorítmico previa para anticipar riesgos legales, éticos, sociales y técnicos.
Los de riesgo limitado (chatbots informativos) exigen transparencia: los ciudadanos deben saber si interactúan con máquinas. Los de riesgo nulo (filtros de spam) solo necesitan buenas prácticas técnicas.
Las obligaciones son exhaustivas y aplican a todo el ciclo de vida de la IA: evaluación preliminar de riesgos, gestión periódica, documentación de sesgos, almacenamiento de datos para auditorías, consentimiento explícito para datos personales y capacitación continua del personal. En interacciones públicas, debe informarse explícitamente que se trata de sistemas automatizados, evitando confusiones.
Un aspecto innovador es el criterio ambiental: los sistemas deben ser “sostenibles”, con medidas para minimizar huella de carbono y consumo energético. Además, todos los usos de IA se registrarán obligatoriamente en un padrón provincial gestionado por la Subsecretaría.
En Zárate, el chatbot “ZARA” —nombrado directora de Atención al Vecino con facultades administrativas— podría clasificarse como alto riesgo, requiriendo auditoría inmediata. La resolución enfatiza que ningún sistema automatizado puede ejercer autoridad sin supervisión humana.
Esta normativa posiciona a Buenos Aires como pionera en América Latina, alineada con estándares globales, y obliga a la capacitación permanente de funcionarios para seguir la evolución tecnológica.
En síntesis, la regulación de IA en Buenos Aires protege derechos, fomenta innovación responsable y prohíbe abusos, con controles estrictos para un uso ético y transparente.
#ia #regulacion #kicillof #riesgo #auditoria #buenosaires #digital
