\u201cNo es lo mismo un algoritmo destinado a influir las emociones que uno que pretende recomendar opciones de m\u00fasica\u201d. Con ese ejemplo, la ministra de Ciencia, Ais\u00e9n Etcheverry, explic\u00f3 el enfoque basado en riesgos que define la propuesta legislativa del gobierno para usos de la inteligencia artificial.<\/p>\n\n\n\n
Siguiendo como referente la Ley de IA de la Uni\u00f3n Europea, el proyecto clasifica los sistemas en cuatro categor\u00edas: riesgo inaceptable, alto riesgo, riesgo moderado y sin riesgo evidente.<\/p>\n\n\n\n
\u00bfC\u00f3mo funcionar\u00e1? \u201cEn lugar de exigir que las tecnolog\u00edas pasen por un proceso de certificaci\u00f3n o an\u00e1lisis antes de entrar al mercado, se estableci\u00f3 que cada empresa clasifique sus sistemas de IA en base a un listado de riesgos que se elaborar\u00e1, donde cada categor\u00eda tendr\u00e1 reglas espec\u00edficas que cumplir. Las sanciones para quienes no lo hagan ser\u00e1n administrativas, aplicadas por la futura Agencia de Protecci\u00f3n de Datos Personales, en un procedimiento regulado por ley y en el que se puede apelar en las cortes de apelaciones\u201d, explic\u00f3 la ministra Etcheverry.<\/p>\n\n\n\n
Los usos incluidos en la categor\u00eda de \u201criesgo inaceptable\u201d est\u00e1n definidos en el proyecto, a diferencia de \u201calto riesgo\u201d y \u201criesgo limitado\u201d, que el proyecto describe en forma gen\u00e9rica pero donde se espera que el Consejo Asesor T\u00e9cnico de Inteligencia Artificial -formado por representantes del sector privado, p\u00fablico, academia y sociedad civil- proponga usos y aplicaciones existentes. Adem\u00e1s, deber\u00e1 proponer el alcance y modo de cumplimiento de las reglas a las que deber\u00e1n sujetarse los operadores de ese tipo de sistemas.<\/p>\n\n\n\n
\u00bfQu\u00e9 aplicaciones entran en cada categor\u00eda? Se consideran inaceptables, de acuerdo con el proyecto, aquellas que atenten contra la dignidad de las personas -como los utilizados para crear deepfakes <\/em>de contenido sexual que exploten vulnerabilidades de ni\u00f1os, ni\u00f1as y adolescentes-. Tambi\u00e9n pr\u00e1cticas con alto potencial de manipulaci\u00f3n o evaluaci\u00f3n de los estados emocionales de una persona, los usos biom\u00e9tricos para el an\u00e1lisis de im\u00e1genes de v\u00eddeo que empleen identificaci\u00f3n en tiempo real (salvo para usos relacionados con la seguridad p\u00fablica), y los sistemas de IA basados en t\u00e9cnicas de facial scraping.<\/p>\n\n\n\n El proyecto define de \u201calto riesgo\u201d aquellas aplicaciones de IA que presentan un riesgo significativo de causar perjuicios para la salud, la seguridad, los derechos fundamentales protegidos por la Constituci\u00f3n o el medio ambiente, as\u00ed como para los derechos de los consumidores. Por ejemplo, un sistema de IA destinado a la contrataci\u00f3n o selecci\u00f3n de personas, especialmente para analizar y filtrar solicitudes de empleo y evaluar candidatos.<\/p>\n\n\n\n En \u201criesgo limitado\u201d se incluyen aquellos usos que no implican riesgos significativos de manipulaci\u00f3n, enga\u00f1o o error derivado de la interacci\u00f3n con personas, por ejemplo, un chatbot de un servicio p\u00fablico que responde a consultas dentro de su esfera de competencia.<\/p>\n\n\n\n Por \u00faltimo, un sistema de IA sin riesgo evidente podr\u00eda ser uno que sugiere pel\u00edculas o canciones, seg\u00fan las preferencias de un usuario, u otro que en ninguna circunstancia pueda causar perjuicios a los derechos fundamentales.<\/p>\n\n\n\n El proyecto de ley se centra tambi\u00e9n en que los usos de IA funcionen en condiciones transparentes, asegurando que las personas reciban informaci\u00f3n clara y precisa y sean conscientes siempre de que est\u00e1n interactuando con una m\u00e1quina.<\/p>\n\n\n\n FOMENTO A LA INNOVACI\u00d3N<\/strong><\/p>\n\n\n\n Calibrar la protecci\u00f3n con la innovaci\u00f3n fue una de las prioridades del proyecto. Para ello, este faculta a los organismos de la administraci\u00f3n del Estado para dise\u00f1ar espacios controlados que faciliten el desarrollo, la prueba y la validaci\u00f3n de sistemas innovadores de IA, durante un per\u00edodo limitado de tiempo antes de su introducci\u00f3n en el mercado. Los detalles de este espacio deber\u00e1n acordarse entre los proveedores potenciales y las autoridades, bajo la orientaci\u00f3n y supervisi\u00f3n de ellas.<\/p>\n\n\n\n La propuesta tambi\u00e9n incluye medidas de apoyo a empresas de menor tama\u00f1o, en consideraci\u00f3n a los intereses de los proveedores y los usuarios de sistemas de IA a peque\u00f1a escala. Entre ellas, dar acceso prioritario a espacios existentes de prueba para IA y fomentar la participaci\u00f3n de representantes de empresas de menor tama\u00f1o en el Consejo Asesor T\u00e9cnico de IA incluido en la propuesta de normativa.<\/p>\n\n\n\n Este proyecto de ley -que adem\u00e1s de proteger a la ciudadan\u00eda busca darle agilidad al mercado- pone a Chile entre los primeros pa\u00edses del mundo en hacer propuestas legislativas en la materia. Recoge diversos elementos de la normativa europea sobre IA, adem\u00e1s de la agenda internacional y principios consensuados al alero de la Unesco y la OCDE. Recoge el trabajo de la Comisi\u00f3n de Desaf\u00edos del Futuro, Ciencia, Tecnolog\u00eda e Innovaci\u00f3n del Senado y de la Comisi\u00f3n de Futuro, Ciencia, Tecnolog\u00eda, Conocimiento e Innovaci\u00f3n de la H. C\u00e1mara de Diputadas y Diputados, y las recomendaciones del Consejo Asesor de IA. \u201cTodo ello permite que esta propuesta de regulaci\u00f3n converse muy bien con los pa\u00edses a los cuales exportamos y desde donde importamos tecnolog\u00eda\u201d, finaliz\u00f3 la ministra.<\/p>\n\n\n\n