La futura regulación de la inteligencia artificial en el derecho chileno: Reflexiones sobre el proyecto de ley que regula los sistemas de inteligencia artificial, la robótica y las tecnologías conexas en sus distintos ámbitos de aplicación

Antonia Jorquera

Licenciada en Ciencias Jurídicas y Sociales por la Universidad de Chile, Bachiller en Humanidades y Ciencias Sociales por la Universidad de Chile, diploma de postítulo en Regulación y Derecho Público por la Universidad de Chile y actualmente cursa el programa de Magíster con Mención en Derecho Económico de la Escuela de Postgrado de la Facultad de Derecho de la Universidad de Chile. Se desempeña como Asociada Senior del área de Energía, Mercados Regulados y TMT del estudio jurídico Philippi Prietocarrizosa Ferrero DU & Uría, en Chile, equipo al que se incorporó en 2017.

El 24 de abril de 2023 un grupo de parlamentarios presentó ante la Cámara de Diputados del Congreso Nacional chileno un proyecto de ley para regular los sistemas de inteligencia artificial (en adelante “IA”).

Inspirándose en el reglamento adoptado por la Unión Europea el año 2021 [1], el proyecto de ley, declara como objetivo el “establecer un área de soberanía digital para los sistemas de IA, en que sea el Estado de Chile el que discuta las consideraciones éticas y jurídicas, además de regular los riesgos surgidos a propósito del desarrollo, distribución, comercialización y utilización de esta tecnología”.

Con anterioridad al proyecto de ley, el Ministerio de Ciencia y Tecnología, Conocimiento e Innovación chileno presentó, en octubre de 2021, la primera Política Nacional de Inteligencia Artificial, que detenta el carácter de instrumento de política pública, pero que no establece normas imperativas, por lo que, a la fecha, la IA en Chile no tiene regulación expresa que se encuentre vigente.

Como se puede advertir del propósito que declara el proyecto de ley, en él se busca expresamente no sólo que sean las instituciones del Estado quienes regulen los sistemas de IA, y quienes ejerzan, por consiguiente, la fiscalización sobre quienes desarrollan y distribuyen estas tecnologías y sus derivados [2], sino que sea también el Estado quien centralice el debate y la discusión con respecto a las consideraciones éticas y jurídicas asociadas a la IA. 

En este sentido, hay una primera definición o adopción de una postura frente al debate global relativo a la necesidad o conveniencia de regular el desarrollo y utilización de la IA, expresada, precisamente, en el proyecto de ley, pero también una segunda definición, consistente en asumir que es el Estado, en forma centralizada, quien debe determinar e imponer dicha regulación, excluyendo, por lo tanto, la posibilidad de que las “reglas del juego” relativas a la IA sean únicamente de un orden ético o sean establecidas por los grupos intermedios de la sociedad, como forma de autorregulación.

De acuerdo con lo que indica el propio proyecto de ley, esta postura tiene un correlato en los derechos fundamentales que consagra la Constitución Política de la República de Chile, particularmente en primer numeral de su artículo 19, que consagra el derecho a la vida y a la integridad física y psíquica de la persona. En efecto, mediante una reforma constitucional aprobada en octubre de 2021, se incorporó como párrafo final del referido numeral primero, el siguiente texto: “El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica. La ley regulará los requisitos, condiciones y restricciones para su utilización en las personas, debiendo resguardar especialmente la actividad cerebral, así como la información proveniente de ella;”.

Aunque la historia de la ley que aprobó esta modificación constitucional muestra que la preocupación principal detrás de la incorporación de este texto (derecho a la neuroprotección) se relaciona con los avances de la neurociencia y los riesgos que éstos representan para los derechos humanos, el derecho que consagra es más amplio y establece un límite general para todas las formas de desarrollo científico y tecnológico, consistente en que éste siempre debe estar “al servicio de las personas” [3], lo que es también aplicable a la IA. En este sentido, el proyecto de ley que regula la IA asume como principio rector el límite constitucional que establece el inciso transcrito del texto constitucional: que el desarrollo de la IA esté al servicio de las personas.

Al mismo tiempo, el proyecto de ley reconoce la necesidad de discutir y alcanzar equilibrios entre la regulación y el libre desarrollo de la tecnología que garantice el debido resguardo de los derechos fundamentales, pero que no se erija como un obstáculo o impedimento indebido para el desarrollo y el acceso a las tecnologías de IA, ni implique “aumentar de un modo desproporcionado el coste de introducir soluciones de inteligencia artificial en el mercado y desenvolvimiento de organismos e instituciones públicas y privadas” [4].

En cuanto a su contenido, el proyecto de ley establece una definición de IA, una categorización de riesgos asociados en su utilización (distinguiendo entre riesgos inaceptables, altos y estableciendo criterios para la clasificación de los sistemas de IA según el tipo de riesgo [5], además de sancionar con penas de cárcel el desarrollo, distribución, comercialización o uso de sistemas de IA de riesgo inaceptable) y la exigencia de que todo desarrollador, proveedor y usuario de sistemas de IA solicite, en forma previa al desarrollo, comercialización, distribución o utilización de éstos es territorio chileno, una autorización a la autoridad que el mismo proyecto de ley crea para estos efectos: la Comisión Nacional de Inteligencia Artificial [6].

En este sentido, aunque el proyecto declara que no busca establecer obstáculos o impedimentos al desarrollo de la IA, contiene la exigencia de obtener la previa autorización de la Comisión no sólo para desarrollar o comercializar sistemas de IA, sino también para utilizarlos. Si se aprobase el proyecto de ley con su actual redacción, ninguna persona podrá ser usuario de sistemas de IA (incluso de aquellas aplicaciones de IA que forman parte ya de nuestra vida cotidiana) sin obtener la autorización de la Comisión, lo que parece a todas luces un impedimento importante y, posiblemente, impracticable.

Por lo demás, esta exigencia no se condice con la previa clasificación que hace el mismo proyecto de ley respecto del nivel de riesgo de los sistemas de IA. Esta incongruencia y el obstáculo que esta exigencia puede representar para el uso de IA podría resolverse acotando la exigencia a aquellos sistemas de IA que califiquen como de alto riesgo y de riesgo inaceptable, o, al menos, acotar la exigencia a los desarrolladores y proveedores, excluyendo a los usuarios.

En cualquier caso, estas materias deberán ser objeto de discusión en el Congreso Nacional durante la tramitación del proyecto, discusión que, a esta fecha, no ha iniciado aún, y podría extenderse por un largo tiempo, al menos mientras el Presidente de la República no decida fijar urgencia a la discusión del proyecto. Pese a ello, el proyecto plantea una buena base para la discusión y el debate respecto de la IA en Latinoamérica y, dependiendo del destino que siga este proyecto, podría también ser un referente para otras regulaciones.

Referencias

[1] “El año 2021 la Unión Europea, a través de su Parlamento, adoptó un reglamento mediante el cual se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la unión; generando una regulación integral y armonizada en materia de inteligencia artificial; texto en que se aventuraba a generar innovadoras formas de minimizar los riesgos de esta tecnología emergente garantizando que los europeos puedan aprovechar nuevas tecnologías que se desarrollen y funcionen de acuerdo con los derechos fundamentales, los valores y los principios de la Unión Europea. Cabe señalar, que el presente proyecto de ley toma coma base la regulación europea previamente señalada” (Proyecto de Ley que Regula los Sistemas de Inteligencia Artificial, la Robótica y las Tecnologías Conexas en sus Distintos Ámbitos de Aplicación, Boletín Nº15869-19 Cámara de Diputados, considerando 2).

[2] Proyecto de Ley que Regula los Sistemas de Inteligencia Artificial, la Robótica y las Tecnologías Conexas en sus Distintos Ámbitos de Aplicación, Boletín Nº15869-19 Cámara de Diputados, considerando 3.

[3]  A juicio de esta autora, el razonamiento expresado en la moción parlamentaria que originó el proyecto de ley que incorporó en definitiva el derecho a la neuroprotección como derecho fundamental garantizado constitucionalmente es extrapolable al debate sobre la regulación de la IA: “La incorporación de un nuevo inciso en el artículo 19 de la Constitución tiene por objeto plasmar en el texto constitucional algunos elementos esenciales para la debida protección de los derechos humanos ante el desarrollo de la neurotecnología, constituyéndose así las ideas matrices del proyecto.

En efecto, establecido que la integridad física y psíquica son elementos constitutivos de la identidad, avanzamos sobre el presupuesto que la identidad y la posibilidad de actuar de manera libre y autodeterminada representa un valor intrínseco de nuestra existencia y de la evolución biológica que nos precede.

Su elevación como derecho humano, y, por ende, la necesidad de determinar que sólo la ley podrá afectar esta garantía, protege que una regulación sobre este tipo de tecnologías quede en manos de un proceso de discusión social, que posibilite a la nación sopesar los alcances cognitivos, emocionales y compartimentales que pueden ocasionar las neurotecnologías en los seres humanos. Además, su ubicación permite su resguardo en virtud de la acción constitucional de protección del artículo 20º.” (Historia de la Ley Nº21.383 “Modifica la Carta Fundamental, para establecer el desarrollo científico y tecnológico al servicio de las personas”, primer trámite constitucional: Senado; Moción Parlamentaria, p. 9).

[4] Proyecto de Ley que Regula los Sistemas de Inteligencia Artificial, la Robótica y las Tecnologías Conexas en sus Distintos Ámbitos de Aplicación, Boletín Nº15869-19 Cámara de Diputados, considerando 10.

[5] Artículo 3.- Serán calificados como sistemas de IA de riesgo inaceptable:

1. Aquel que se sirva de técnicas subliminales que trasciendan la conciencia de una persona para alterar de manera sustancial su comportamiento de un modo que provoque o sea probable que provoque perjuicios físicos o psicológicos a esa persona o a otra.
2. Aquel que aproveche alguna de las vulnerabilidades de un grupo específico de personas debido a su edad o discapacidad física o mental para alterar de manera sustancial el comportamiento de una persona que pertenezca a dicho grupo de un modo que provoque o sea probable que provoque perjuicios físicos o psicológicos a esa persona o a otra.
3. Aquel utilizado por parte de las autoridades públicas o en su representación con el fin de evaluar o clasificar la fiabilidad de personas naturales durante un período determinado de tiempo atendiendo a su conducta social o a características personales o de su personalidad conocidas o predichas, de forma que la clasificación social resultante provoque una o varias de las situaciones siguientes:
4. Un trato perjudicial o desfavorable hacia determinadas personas o colectivos en contextos sociales que no guarden relación con los contextos donde se generaron o recabaron los datos originalmente.
5. Un trato perjudicial o desfavorable hacia determinadas personas o colectivos que es injustificado o desproporcionado con respecto a su comportamiento social o la gravedad de éste.
6. Aquel de identificación biométrica remota en tiempo real o diferido en espacios de acceso público, salvo y en la medida que dicho uso sea estrictamente necesario para alcanzar uno o varios de los siguientes objetivos:
7. La búsqueda selectiva de posibles víctimas concretas de un delito, incluidos menores desaparecidos.
8. La prevención de una amenaza específica, importante e inminente para la vida o la seguridad física de las personas o de un atentado terrorista.
9. La detección, localización, identificación o enjuiciamiento de la persona que ha cometido, o se sospecha que ha cometido alguno de los delitos incluidos en el Código Penal.

Las excepciones consideradas en el numeral 4 de este artículo estarán supeditadas a una orden emanada de un Tribunal de Justicia y solo podrán ser aplicadas por Carabineros de Chile y Policía de Investigaciones.

“Artículo 4.- Serán calificados como sistemas de IA de alto riesgo los destinados a utilizarse en:

1. La identificación biométrica remota en tiempo real o diferido de personas en espacios privados.
2. La utilización en gestión del suministro de agua, electricidad y gas.
3. La asignación y determinación del acceso a establecimientos educacionales y la evaluación de estudiantes.
4. La selección y contratación de personas en trabajos.
5. La asignación de tareas y el seguimiento y evaluación del rendimiento y la conducta de trabajadores.
6. La evaluación de las personas para acceder a prestaciones y servicios de asistencia pública.
7. La evaluación de la solvencia de personas o establecer su calificación crediticia.
8. La utilización en situaciones de emergencia y desastre, particularmente en el envío o establecimiento de prioridades para el envío de servicios de intervención (ejemplo, bomberos o ambulancias).
9. La utilización de ellas para determinar el riesgo de que personas cometan infracciones penales o reincidan en su comisión, así como el riesgo para las potenciales víctimas de delitos.
10. La utilización de ellas en cualquier etapa de investigación e interpretación de hechos que pudieran constituir un delito en el contexto de un juicio.
11. La utilización de ellas para gestión de la migración, el asilo y el control fronterizo.

Igualmente, serán calificados como sistemas de IA de alto riesgo aquellos que conlleven el riesgo de causar un perjuicio a la salud y la seguridad, o el riesgo de tener repercusiones negativas para los derechos fundamentales, cuya gravedad y probabilidad sean equivalentes o mayores de los riesgos de perjuicio o de repercusiones negativas asociados a los sistemas de IA señalados en el inciso primero de este artículo”.

[6] Concebida como un órgano colegiado, dependiente del Ministerio de Ciencia y Tecnología, e integrada por miembros ad honorem, designados por el Ministro, a proposición de las comisiones de ciencia de la Cámara de Diputados y del Senado, así como también del Consejo de Rectores de las Universidades Chilenas

Bibliografía

Biblioteca del Congreso Nacional de Chile, Historia de la Ley Nº21.383 “Modifica la Carta Fundamental, para establecer el desarrollo científico y tecnológico al servicio de las personas, primer trámite constitucional: Senado; Moción Parlamentaria”, disponible en https://www.bcn.cl/historiadelaley/nc/historia-de-la-ley/7926/ [consultado el 24 de septiembre 2023]. 

Cámara de Diputados del Congreso Nacional de Chile, Boletín Nº15869-19, Período Legislativo 2022-2026, Legislatura 371, “Proyecto de Ley que Regula los Sistemas de Inteligencia Artificial, la Robótica y las Tecnologías Conexas en sus Distintos Ámbitos de Aplicación”, disponible en https://www.camara.cl/legislacion/ProyectosDeLey/tramitacion.aspx?prmID=16416&prmBOLETIN=15869-19 [consultado el 24 de septiembre de 2023].