Fátima Toche Vega
Abogada por la PUCP. Máster en Dirección de Negocios Internacionales por la Escuela de Organización Industrial (EOI) de España y por la UPC y Posgrado en Regulación y Solución de Diferendos en Comercio Internacional e Inversiones por la Universidad de Buenos Aires. Se desempeñó como funcionaria internacional en la Secretaría General de la Comunidad Andina.
El avance exponencial de las tecnologías de la información y la comunicación – TIC plantea diversos retos al derecho penal puesto que se presentan nuevas modalidades y medios de perpetración de diversos delitos, entre ellos el de la pornografía infantil. La inteligencia artificial es una de las tecnologías que mayores potencialidades presenta para la humanidad, pero también riesgos que es necesario mitigar.
Hasta la fecha no hay una definición universalmente aceptada de la inteligencia artificial. Sin embargo, la definición más simple sobre inteligencia artificial se refiere a la capacidad de las máquinas de emular el pensamiento o razonamiento humano y así poder operar con cierta autonomía. Siendo que en algunos supuestos esa capacidad de “pensar” y procesar información podría tener resultados con un rendimiento mejor que el de los humanos. Sin embargo, las definiciones varían dependiendo desde la disciplina desde la cual se aborde y qué se busca conseguir con ella (Valls, 2021).
Teniendo como base lo señalado por el Grupo de Alto Nivel sobre Inteligencia Artificial de la Comisión Europea, Palma considera que un sistema es de inteligencia artificial cuando: i. se le programa para que simule las estructuras de pensamiento humano, ii. Puede actuar ante circunstancias no previstas y aprender de la experiencia, iii. Resolver situaciones con acciones físicas y/o mentales similares a las humanas, iv. Lograr resultados en base a su percepción y planificación, y v. se vale de distintas técnicas para asimilar un actuar racional. (Palma, Adrian, 2022)
Artículos periodísticos ya evidencian esta problemática exponiendo que las redes de pedofilia usan inteligencia artificial para generar y compartir imágenes falsas de niños desnudos o en situaciones sexuales. Esta práctica representa un o cambio de tendencia que dificulta la protección de la infancia y la persecución penal de los delincuentes. Los expertos, las víctimas y las autoridades alertan sobre los riesgos de esta tecnología y reclaman una mayor regulación y control. Los casos de abuso sexual infantil han aumentado en el mundo, y se estima que hay más de 300 millones de imágenes de este tipo circulando en Internet. (Ayuzo, 2023)
De Igual forma en nuestro país ya se han presentado casos a nivel mediático, como el relacionado a alumnos del Colegio Saint George de Chorrillos[1] que copiaron fotos y videos de las redes sociales de sus compañeras, las modificaron con inteligencia artificial (IA) para convertirlas en material pornográfico y vendieron el contenido manipulado a entre 15 y 30 soles. (Colchado, 2023)
La pornografía infantil es una forma de explotación sexual de niñas, niños y adolescentes, y fue incorporado como delito a nuestro Código Penal a través de la Disposición Complementaria y Modificatoria Tercera de Ley de Delitos Informáticos, Ley N° 30096. El citado delito se encuentra definido en nuestra legislación estableciendo que “[e]l que posee, promueve, fabrica, distribuye, exhibe, ofrece, comercializa, publicita, publica, importa o exporta por cualquier medio objetos, libros, escritos, imágenes, videos o audios, o realiza espectáculos en vivo de carácter sexual, en los cuales participen menores de dieciocho años de edad, será sancionado con pena privativa de libertad no menor de seis ni mayor de diez años y con ciento veinte a trescientos sesenta y cinco días multa.” (Código Penal Peruano, hoy Artículo 129-M). Se prevén también agravantes vinculados a: i. que la víctima tenga menos de catorce años, ii. el material se difunda a través de cualquier tecnología de la información o de la comunicación o cualquier otro medio que genere difusión masiva, y cuando iii. el agente actúe como miembro o integrante de una banda u organización criminal.
Como se puede observar, el tipo penal no define qué tipo de contenidos deben ser considerados pornografía infantil y tampoco se hace referencia a si incluye imágenes digitalmente generadas, por ejemplo, mediante inteligencia artificial. Para tener mayor alcance, debemos recurrir a otras fuentes, como son el Convenio de Cibercrimen de Budapest (ratificado por el Perú en el año 2019) y su Informe Explicativo. Es así como el artículo 9, numeral 2 del precitado Convenio establece que se entenderá por pornografía infantil todo material pornográfico que contenga la representación visual de: a. un menor adoptando un comportamiento sexualmente explícito; b. una persona que parezca un menor adoptando un comportamiento sexualmente explícito; c. imágenes realistas que representen a un menor adoptando un comportamiento sexualmente explícito. (Europa, 2001)
Con la alusión a imágenes realistas, estarían cubiertas las modalidades del delito en el que se usa inteligencia artificial, especialmente deepfake[2] para simular una relación sexual entre un niño, niña o adolescente y un adulto. Los deepfakes se definen como medios audiovisuales manipulados o sintéticos que parecen auténticos, y que presentan a personas que aparentan decir o hacer algo que nunca han dicho o hecho, producidos utilizando técnicas de inteligencia artificial, incluyendo aprendizaje automático y aprendizaje profundo.
Los deepfakes se pueden entender mejor como un subconjunto de una categoría más amplia de ‘medios sintéticos’ generados por IA, que no solo incluye video y audio, sino también fotos y texto. Este informe se centra en un número limitado de medios sintéticos impulsados por IA: videos deepfake, clonación de voz y síntesis de texto. También incluye una breve discusión sobre tecnologías de animación 3D, ya que estas producen resultados muy similares y se utilizan cada vez más en conjunto con enfoques de IA. (EPRS | European Parliamentary Research Service, 2021)
Sin embargo, cabe precisar que nuestro país, al momento de ratificar el Convenio de Budapest, realizó una reserva justamente relacionada a los literales b y c, aduciendo que las conductas contempladas en dichas disposiciones no involucran la participación de un menor de edad.[3] Con ello, resulto complejo que en el Perú se pueda sentenciar a alguien por poseer, producir o comercializar pornografía infantil generada con inteligencia artificial.
Esta situación no sólo afecta al Perú, por ejemplo, en Estados Unidos de América, fiscales de los 50 estados instaron al Congreso a investigar el uso de la inteligencia artificial para explotar niños mediante pornografía y a formular leyes para prevenirlo. La intervención gubernamental fue vista como crucial para mitigar los riesgos de la IA, en una carrera contra el tiempo para proteger a los niños del país. (Semana, 2023).
Por su parte, hay países que han logrado tener una normativa más acorde a los lineamientos mínimos del Convenio de Budapest, o incluso han ido más allá, de modo que ya pueden procesar y hasta sentenciar a productores de pornografía infantil generada artificialmente:
| País | Caso |
| Corea del Sur | Un hombre en Corea del Sur fue condenado a prisión por usar inteligencia artificial para crear imágenes de explotación sexual infantil, siendo el primer caso de este tipo en el país. Este hombre, de unos 40 años, fue sentenciado a dos años y medio de cárcel tras crear alrededor de 360 imágenes con IA en abril, aunque estas no fueron distribuidas. El caso resalta la necesidad de regulación frente al uso indebido de la IA, en un contexto global donde los deepfakes representan un desafío legal y ético (Gawon Bae, 2023) |
| España | La Policía Nacional en Valladolid detuvo a un pedófilo con avanzados conocimientos de informática que utilizaba inteligencia artificial para crear material de abuso sexual infantil, siendo este el primer arresto de este tipo en España. El individuo, activo desde 2011, usaba programas y la red Tor para acceder y crear contenido abusivo extremadamente violento. Durante el registro de su vivienda, se hallaron numerosos archivos de pornografía infantil. Utilizaba una herramienta de licencia libre y probablemente tecnología Deepfake para generar nuevas imágenes de abusos a partir de imágenes reales, distribuyendo el material entre otros pedófilos. (Navarro, 2022) |
| Canadá | Un hombre en Quebec, Canadá, ha sido condenado a más de tres años de prisión por utilizar inteligencia artificial (IA) para producir vídeos sintéticos de pornografía infantil. El juez provincial Benoit Gagnon escribió en su sentencia que cree que se trata del primer caso en el país de creación de contenidos falsos de explotación sexual infantil. Dijo que le preocupa lo que pueda ocurrir cuando los delincuentes utilicen la tecnología para poner las caras de los niños cuyas imágenes se encuentran en las redes sociales en videos de otros niños que son agredidos sexualmente. (Serebrin, 2023) |
Es por esa razón, que desde la perspectiva del derecho comparado observamos de manera positiva la Ley aprobada en el Estado de Luisaina[4], Estados Unidos de América, vigente desde el 1 de agosto de 2023, la cual establece que cualquier persona condenada por crear, distribuir o poseer imágenes deepfake ilegales que representen a menores podría enfrentar una pena obligatoria de 5 a 20 años de prisión, una multa de hasta $10.000 o ambas penas.
También sería recomendable adoptar el modelo español en el que el artículo 189 del Código Penal penaliza la pornografía infantil incluyendo a Imágenes realistas de un menor participando en una conducta sexualmente explícita o imágenes realistas de los órganos sexuales de un menor, con fines principalmente sexuales, siendo que bajo este marcó sí se incluirían los casos de pornografía infantil generada digitalmente.
Al respecto también cabe destacar el Proyecto de Ley N° 5866/2023-CR presentado por la congresista Sigrid Bazán, en el que, recogiendo esta problemática, se propone modificar el tipo penal de pornografía infantil en nuestro Código Penal señalando que las imágenes, videos o audios de carácter sexual en los que participen menores de 18 años, podrían ser “reales, simulados o generados a partir de cualquier medio tecnológico”.
Se espera que en el Perú los legisladores se encuentren a la altura de los retos que estas nuevas modalidades delictivas imponen.
Bibliografía
Ayuzo, M. (26 de Setiembre de 2023). La Nación . Obtenido de “Es un peligroso cambio de tendencia”: las redes de pedofilia locales ya usan inteligencia artificial para generar imágenes de abusos sexuales a niños: https://www.lanacion.com.ar/comunidad/es-una-peligroso-cambio-de-tendencia-las-redes-de-pedofilia-locales-ya-usan-inteligencia-artificial-nid26092023/
Colchado, G. P. (31 de Agosto de 2023). El Comercio. Obtenido de St. George’s College: aumenta número de escolares víctimas de manipulación de sus fotos para pornografía infantil: https://elcomercio.pe/lima/colegio-st-george-aumenta-numero-de-escolares-victimas-de-manipulacion-de-sus-fotos-para-pornografia-infantil-chorrillos-seguridad-delitos-contra-adolescentes-imagenes-alteradas-con-inteligencia-artificial-noticia/
EPRS | European Parliamentary Research Service. (2021). Tackling deepfakes in European policy. Bruselas: Parlamento Europeo.
Europa, C. d. (2001). CONVENIO SOBRE LA CIBERDELINCUENCIA. Budapest: Unión Europea.
Gawon Bae, J. Y. (28 de Setiembre de 2023). CNN en Español. Obtenido de https://cnnespanol.cnn.com/2023/09/28/corea-del-sur-inteligencia-artificial-imagenes-sexuales-ninos-deepfake-trax/
Navarro, J. (21 de Diciembre de 2022). El País. Obtenido de https://elpais.com/sociedad/2022-12-21/detenido-un-pederasta-que-usaba-inteligencia-artificial-para-crear-material-de-abuso-sexual-infantil.html
Palma, Adrian. (2022). El ciclo de la vida de los sistemas de inteligencia artificial. Aproximación técnica de las fases presentes durante el diseño y despliegue de los sistemas algorítmicos. En L. Cotino, Derechos y garantías ante la inteligencia artificial y las decisiones automatizadas (págs. 30 – 33). Navarra: Aranzadi.
Serebrin, J. (27 de abril de 2023). RCI. Obtenido de https://ici.radio-canada.ca/rci/es/noticia/1974735/encarcelan-canadiense-utilizo-ia-pornografia-infantil
Valls, J. (2021). Inteligencia Artificial, Derechos Humanos y bienes jurídicos. Navarra: Arazandi.
Referencias bibliográficas
[1] https://elcomercio.pe/lima/colegio-st-george-aumenta-numero-de-escolares-victimas-de-manipulacion-de-sus-fotos-para-pornografia-infantil-chorrillos-seguridad-delitos-contra-adolescentes-imagenes-alteradas-con-inteligencia-artificial-noticia/
[3] https://cdn.www.gob.pe/uploads/document/file/1671758/Convenio%20de%20Budapest.pdf.pdf
[4] https://legiscan.com/LA/text/SB175/id/2832119
