Breves reflexiones acerca de la irrupción de la inteligencia artificial en el sistema jurídico: un enfoque hacia el Covid-19

Breves reflexiones acerca de la irrupción de la inteligencia artificial en el sistema jurídico: un enfoque hacia el Covid-19

Cecilia Celeste Danesi

Profesora e investigadora en Inteligencia Artificial, Género y Derecho, Universidad de Buenos Aires


La irrupción de la inteligencia artificial en las sociedades modernas no llegó por elección. Aquella, así como también otras tecnologías emergentes, arriban sin pedir permiso y dispuestas a quedarse. Pensemos por ejemplo los casos de Uber, Airbnb, Rappi o Glovo que —de la noche a la mañana— invadieron diversas ciudades del mundo, comenzaron a interactuar con las personas y a formar parte de sus vidas.

Creemos que ese fenómeno se debe principalmente a dos factores. Por un lado, las características que poseen las innovaciones tecnológicas generan que sean de difícil o —mejor dicho— nulo control por parte del Estado. Al no encontrarse en un espacio físico determinado y principalmente, al ser omnipresentes, las medidas tradicionales de prohibición o sanción se tornan inservibles. Por ejemplo, en la ciudad de Buenos Aires hace años que por una medida cautelar Uber tiene vedado circular. Sin embargo, y también aun con los reiterados reclamos por parte de los taxistas, la empresa día a día consigue más descargas y clientes.

Por otro lado, nos preguntamos ¿Hasta qué punto a un país le conviene mantenerse al margen de los nuevos desarrollos tecnológicos? Contestemos el interrogante con otro ejemplo sencillo. Una pizzería que utiliza inteligencia artificial y otra que no. La primera, la podrá usar para: la publicidad (los sistemas le podrán predecir canales y sitios donde conviene presentar los anuncios y hasta el momento más oportuno para hacerlo); las compras (la IA podrá realizar un estudio e indicar dónde comprar a mejor precio); la mano de obra (parte de las actividades podrán ser delegadas en un sistema inteligente como por ejemplo la toma de los pedidos a través de un chatbot y la organización de los mismos para mayor optimización de las tareas); y un sinfín de etcéteras. Tal como podemos apreciar, el empleo de la IA para el desarrollo de esas actividades se traduce en varios beneficios: optimización de tiempos y recursos y reducción de costos. Pero ¿Qué sucederá con la otra pizzería que no pueda gozar de las ventajas de la IA? La respuesta es obvia. Ahora llevemos ese mismo ejemplo a nivel Estado, ¿Cómo podemos competir a nivel internacional sin aquellas herramientas?

Así las cosas, la inteligencia artificial —en particular— y las tecnologías emergentes —en general— se convierten en una herramienta fundamental para el desarrollo del Estado y de las empresas; aquellos que no cuenten con sus beneficios quedaran considerablemente rezagados.

Con los párrafos anteriores quedó probado que el uso de la inteligencia artificial es por uno u otro motivo (imposibilidad de control o grandes ventajas) un recurso esencial y presente en las sociedades modernas. Entonces debemos preguntarnos ¿Cómo impacta su llegada en el Derecho?

Para tranquilidad de todos, lo primero que debemos señalar es que la irrupción de nuevos fenómenos en las sociedades no es novedad. Si bien ninguna posee las particularidades que presenta la inteligencia artificial, en su momento, la llegada de las maquinarias incorporadas por la revolución industrial, los vehículos autopropulsados o los trenes, convulsionaron el sistema jurídico y, finalmente, pudimos adaptarnos.

Sin embargo, y además de la ya mencionada dificultad de control, las peculiaridades que posee la IA hacen que sea una figura sin precedentes y que “descoloque” al Derecho. Veamos por qué. El avance incesante del desarrollo tecnológico se traduce, en primer lugar, en la dificultad de alcanzar una legislación adecuada (para aquellos pocos Estados que con acierto se lo están planteando). En segundo lugar, en la falta de conocimiento sobre la materia; en efecto, vemos que en muchos casos no existen carreras o asignaturas universitarias, tanto en las ciencias duras o exactas como en las sociales, que la aborden. En tercer lugar, destacamos la capacidad que posee la inteligencia artificial de procesar enormes cantidades de datos y también, su discutida autonomía. La primera pone en jaque las normas sobre protección de datos personales y la segunda, a los sistemas tradicionales de la responsabilidad civil así como también, las leyes de protección de los consumidores o productos defectuosos. Finalmente, y en sintonía con lo sostenido al comienzo, el carácter omnipresente de la IA, que se traduce en una interacción con personas de todos los estratos sociales y, en consecuencia, la posible afectación a los derechos humanos.

En cuanto a eso último (afectación a los derechos humanos), cabe mencionar la cuestión atinente a los sesgos y, en consecuencia, a la ética. Los sesgos no son un problema propio de la inteligencia artificial, sino de las personas. Los informes “Tackling Social Norms: A game changer for gender inequalities” de la ONU (2020) y, “I´d blush if I could Closing gender divides in digital skills through education” de la UNESCO (2019), dan cuenta que 9 de cada 10 hombres y mujeres poseen sesgos en torno a las mujeres. La IA se alimenta de enormes cantidades de datos que son extraídos de esas sociedades sesgadas. En consecuencia, la IA no solo replica esos sesgos, sino que también los refuerza.

Bajo este contexto, fácil es llegar a la conclusión que debemos preocuparnos y ocuparnos de este revolucionario fenómeno desde el Derecho. Este abordaje debe ser desde sus distintas áreas y con un marcado enfoque interdisciplinario. Prueba de ello, lo constituye la pandemia del Covid-19, en la cual, también la inteligencia artificial jugó y juega un rol preponderante y el ordenamiento jurídico, en muchos casos, “hizo agua”.

La inteligencia artificial logró predecir la llegada de un nuevo virus. BlueDot y Metabiota (ambas utilizan algoritmos que procesan lenguaje natural para monitorear medios de comunicación e informes médicos oficiales) enviaron alertas a fines de 2019 acerca de un nuevo virus en China. Esta circunstancia toma un rol preponderante bajo la óptica de la función preventiva de la responsabilidad civil presente en algunos ordenamientos jurídicos (arts. 1710 y siguientes del Código Civil y Comercial de la Nación). Otra aptitud de la IA (que no nació con el Coronavirus) es la posibilidad de diagnosticar enfermedades o sugerir tratamientos médicos. Así, en varios países del mundo se desarrollaron sistemas de IA capaces de diagnosticar el virus. Por ejemplo, en Argentina, un grupo de investigadores está desarrollando Covid X, un sistema que permite detectar el Covid 19 mediante la lectura de radiografías o tomografías de tórax y posee una eficacia del 98%. En igual sentido, la empresa Entelai, que ya poseía un software que permitía indicar patologías a través de la lectura de imágenes y fue la primera en conseguir la aprobación regulatoria de la Administración Nacional de Medicamentos, Alimentos y Tecnología Médica (Anmat), creó Entelai Pic Covid-19.

¿Cómo impactan esos nuevos desarrollos en el Derecho? Diversas áreas se encuentran afectadas por esos sistemas autónomos. Más allá de la función preventiva y resarcitoria de la responsabilidad civil o del derecho del consumidor —ya mencionados—, pensemos en la normativa sobre datos personales. La Unión Europea trabajó sobre esa problemática en la Comunicación de la Comisión con orientaciones sobre las aplicaciones móviles de apoyo a la lucha contra la pandemia de covid-19 en lo referente a la protección de datos. En resumen propone: 1) Autoridades sanitarias nacionales (o entidades que realizan una misión que se lleva a cabo en favor del interés público en el ámbito de la salud) sean las responsables del tratamiento de datos; 2) Garantizar que la persona siga teniendo el control; 3) Base jurídica para el tratamiento; 4) Minimización de datos; 5) Limitar el acceso a los datos y su divulgación; 6) Tratamiento de los datos con fines precisos; 7) Establecimiento de límites estrictos al almacenamiento de datos; 8) Garantizar la seguridad de los datos; 9) Garantizar la exactitud de los datos y; 10) Involucrar a las autoridades de protección de datos.

Asimismo, la OECD emitió varios documentos que abordan la relación inteligencia artificial y Covid-19: “Using artificial intelligence to help combat COVID-19”, “Ensuring data privacy as we battle COVID-19”, “Tracking and tracing COVID: Protecting privacy and data while using apps and biometrics”, “Recommendation concerning Guidelines Governing the Protection of Privacy and Transborder Flows of Personal Data”, entre otros.

En suma, vemos que la inteligencia artificial es un problema del pasado, del presente y por sobre todo del futuro. Por ello, necesitamos estudiarla con un marcado enfoque interdisciplinario y, más importante aún, de Derechos Humanos. Las minorías y los grupos vulnerables serán los primeros en quedar rezagados y afectados frente a esta nueva tecnología.

Ello no implica proponer su eliminación, todo lo contrario. Tiene innumerables beneficios pero también innumerables riesgos. Se trata de incorporarla en la sociedad como una herramienta de valor pero controlada y supervisada por el humano. Entonces, necesitamos que la inteligencia artificial constituya una política de Estado y así, arribar —entre otras cosas— a una adecuada legislación.


Bibliografía: 

  • “I´d blush if I could Closing gender divides in digital skills through education” UNESCO, Biblioteca Digital, 2019.
  • “Tackling Social Norms: A game changer for gender inequalities” ONU, Marzo, 2020. 
  • “White Paper” sobre la inteligencia artificial – un enfoque europeo orientado a la excelencia y la confianza, Unión Europeo, febrero 2020.
  • Danesi, Cecilia y Mitelli, Noelia, “Asistentes jurídicos digitales: el impacto de la inteligencia artificial en el proceso”, Suplemento Derecho, Innovación y Tecnología, Erreius, Buenos Aires 2020. 
  • Danesi, Cecilia y Wierzba, Sandra, “Violencia en las redes sociales ¿Acciones judiciales o normas y algoritmos como clave para la prevención?, La Ley, Buenos Aires, febrero 2020. 
  • Danesi, Cecilia, “La responsabilidad civil en la era de la inteligencia artificial”, Revista Jurídica Uruguaya, Montevideo, noviembre- diciembre 2018. 
  • Dictamen Inteligencia artificial: las consecuencias de la inteligencia artificial para el mercado único (digital), la producción, el consumo, el empleo y la sociedad, Comité Económico y Social Europeo, agosto 2017.
  • Directrices éticas para una IA fiable, Grupo de Expertos de Alto Nivel en Inteligencia Artificial, Unión Europea, Abril 2019.
  • Ertel, Wolfgang, Introduction to artificial intelligence, Second Edition, Springer, Alemania, 2017. 
  • Escobar Felicitas, La potencial influencia de la IA en materia probatoria, beneficios y desafíos, Suplemento Derecho, Innovación y Tecnología, Erreius, Buenos Aires 2020. 
  • Informe de la Comisión de Asuntos Jurídicos con recomendaciones a la Comisión Europea para creación de una directiva relativa a las normas de legislación civil en materia de robótica, Unión Europea, 27/01/17. 
  • Regulation of Artificial Intelligence in Selected Jurisdictions, Law Library Congress US, United States, 2019.