Ana María Acero Cárdenas
Abogada por la PUCP. Docente universitaria
Uno de los problemas más desconcertantes del constitucionalismo actual es el discurso de odio en los espacios virtuales, particularmente cuando quienes están en línea son niños y adolescentes. La esfera digital, complementada por la intermediación algorítmica, ha cambiado el régimen tradicional de libertad de expresión a uno más simbólico, donde vemos un nuevo énfasis en la violencia simbólica entre personas que se amplifica tecnológicamente. Bajo este marco, el presente documento examinará, desde una perspectiva comparativa, las restricciones a la libertad de expresión desde las perspectivas de los sistemas de derechos humanos europeos y latinoamericanos, asegurando el interés superior del niño como criterio principal de interpretación. Está enmarcado por una metodología de investigación jurídica comparativa cualitativa e interdisciplinaria combinada con pensamiento normativo, jurisprudencial y doctrinal, con contribuciones de investigación de la psicología y la educación. Los sistemas europeos han desarrollado un modelo de corresponsabilidad estructural y obligaciones en las plataformas digitales, del cual el régimen interamericano mantuvo una concepción más sistémica y dirigida por el estado y expansiva de la libertad de expresión. En América Latina, se revela una brecha estructural similar entre la articulación normativa de los derechos de los niños y su entrega digital real.
Introducción
La aparición de la red para ser accesible al gran público ha llevado a nuevos dilemas en los que la libertad de expresión enfrenta nuevos requisitos entre este derecho fundamental y la protección de grupos vulnerables, principalmente niños y adolescentes. (Waldron, 2012; Citron, 2014). Frente a esto, el discurso de odio digital se describe como una realidad estructural, y no puede fundamentarse empíricamente en principios legales estándar, ya que los efectos del discurso de odio en las redes sociales emergen a través de algoritmos y ecología viral en línea (CEPAL, 2022; UNESCO, 2021). El problema anterior se refuerza a la luz de los niños que usan redes digitales durante cantidades sustanciales de tiempo durante horas críticas para el desarrollo infantil, y por lo tanto se vuelven más susceptibles a contenido inconsistente y racializado (Kowalski, et al., 2014; Steinberg, 2014). Sin embargo, usarlo en el ámbito digital plantea problemas bastante complejos, especialmente en el dominio de integrarlo con la libertad de expresión, uno de los valores básicos de los países democráticos (Alexy, 2007; TEDH, 2006). En el contexto comparativo, existe una considerable división entre los sistemas de derechos humanos europeos e interamericanos para resolver este problema (Citron, 2014; CEPAL, 2022). Legalmente, la protección de los niños contra estas dinámicas se deriva del concepto del interés superior del niño establecido en la Convención sobre los Derechos del Niño, que establece que la acción estatal para tomar decisiones sobre los derechos de un niño debe ser en el mejor interés del niño (ONU, 1989; Comité de los Derechos del Niño, 2021). Sin embargo, la propia aplicación de este principio dentro de la dimensión digital enfrenta una serie de problemas, particularmente porque plantea la cuestión de cómo equilibrar esto con la libertad de expresión, que es un derecho básico de las democracias (Alexy, 2007; TEDH, 2006). La perspectiva comparativa sugiere una marcada discrepancia entre los sistemas de derechos humanos europeos e interamericanos cuando se trata de resolver este desafío (Citron, 2014; CEPAL, 2022).
El modelo europeo ha evolucionado hacia modelos de corresponsabilidad que posicionan a las plataformas digitales como los actores principales para la protección de derechos, mientras que el enfoque interamericano tiene una forma más centrada en el estado, lo que lleva a brechas en la regulación de las dinámicas digitales (UNESCO, 2021; OCDE, 2021). Esto es particularmente importante dado que los niños y adolescentes participan activamente en entornos digitales durante etapas críticas de desarrollo psicosocial, lo que los hace más vulnerables a la exposición a contenido hostil o discriminatorio (Kowalski et al., 2014; Steinberg, 2014). Se propone que, para garantizar una protección efectiva de los menores, la libertad de expresión debe reformularse de modo que la vulnerabilidad del desarrollo sea un criterio de ponderación primordial (Citron, 2014; UNICEF, 2023). Dado este contexto, el estudio busca investigar el alcance de la libertad de expresión en relación con el discurso de odio digital dirigido a niños y adolescentes desde una perspectiva comparativa entre Europa y América Latina, adoptando un enfoque interdisciplinario que combina aspectos legales, psicológicos y educativos (Alexy, 2007; Waldron, 2012). Desde la perspectiva legal, la protección de los niños contra estas dinámicas se guía por el principio del interés superior del niño establecido en la Convención sobre los Derechos del Niño, que requiere que los Estados prioricen el bienestar del niño por encima de cualquier otra consideración en todas las decisiones que les afecten (ONU, 1989; Comité de los Derechos del Niño, 2021). Esta situación se ve agravada por una brecha estructural entre el reconocimiento normativo de los derechos de los niños y su implementación efectiva en América Latina, lo que impacta la capacidad de respuesta al discurso de odio digital (UNICEF, 2023; CEPAL, 2022). Legalmente, la protección de los niños contra estas dinámicas se basa en el principio del interés superior del niño establecido en la Convención sobre los Derechos del Niño, que obliga a los Estados a priorizar el bienestar del niño por encima de cualquier otra consideración en todas las decisiones que les afecten (ONU, 1989; Comité de los Derechos del Niño, 2021).
Método
El trabajo actual se desarrolla desde una perspectiva cualitativa legal-comparativa, en vista de la interrelación entre la libertad de expresión y la protección de los menores en contextos digitales, desde una perspectiva multifacética (Alexy, 2007; Waldron, 2012). Esta perspectiva permite la combinación del estudio normativo y la evaluación de efectos concretos, superando una concepción estrictamente formal del derecho (CEPAL, 2022; UNESCO, 2021). El método de investigación utilizado fue el análisis legal-comparativo, que permite la identificación de diferencias y convergencias entre los sistemas de protección de derechos humanos en Europa y América Latina, especialmente en términos de libertad de expresión y protección de menores (Alexy, 2007; ECHR, 2006). El método incluye un análisis sistemático de normas e instrumentos internacionales, lo que permite comprender la jerarquía normativa y la interacción entre el derecho interno y el derecho internacional en el ámbito de los derechos de los niños (Kelsen, 1960; Naciones Unidas, 1989). Esta metodología facilita la integración del análisis normativo con la evaluación de efectos específicos, superando una concepción estrictamente formal del derecho (CEPAL, 2022; UNESCO, 2021). El trabajo actual se enmarca como una investigación cualitativa legal-comparativa que busca investigar la interrelación entre la libertad de expresión y la protección de los menores en el entorno digital desde una perspectiva multifacética (Alexy, 2007; Waldron, 2012). Esto permite una combinación de investigación normativa con la evaluación de efectos concretos, trascendiendo una concepción estrictamente formal del derecho (CEPAL, 2022; UNESCO, 2021). La metodología se basa en el análisis de instrumentos internacionales, jurisprudencia comparada y regulaciones nacionales, con especial énfasis en el sistema europeo de derechos humanos y el sistema interamericano de derechos humanos (ONU, 1989; ECHR, 2006). También se realiza un trabajo interdisciplinario integrando aportes de la psicología del desarrollo y la educación para entender cómo el discurso de odio afecta a los más jóvenes (Kowalski et al., 2014; APA, 2022).
Resultados
1. Hacia la conceptualización de libertad de expresión
La transición del sistema europeo hacia ese principio de corresponsabilidad estructural (ver, por ejemplo, sistema europeo) y la conclusión señalan un cambio radical en el concepto de libertad de expresión, donde la libertad de expresión ya no se considera un asunto de soberanía humana, sino que está sujeta a restricciones de contenido en el ámbito de la protección de la dignidad humana (TEDH, 2006; Waldron, 2012). En ese sentido, el Tribunal Europeo de Derechos Humanos ha reconocido, bajo jurisprudencia, que el discurso de odio está limitado en alcance, y que el discurso que promueve la discriminación o la violencia puede resultar en discriminación o exclusión de la protección, y al igual que la violencia, tiene una influencia, en cierto sentido, en los jóvenes (Citron, 2014; Consejo de Europa, 2006).
2. Transformación del concepto de libertad de expresión
El trabajo del sistema europeo ilustra una transformación fundamental en el concepto de libertad de expresión, un derecho no reconocido en el pasado histórico, y las restricciones esperadas en la protección de la dignidad humana y los derechos de las personas indefensas (TEDH, 2006; Waldron, 2012). Esta evolución ha sido impulsada por un creciente escrutinio de los sitios en línea y su papel significativo en la distribución de contenido (Gillespie, 2018; Unión Europea, 2022). Y en el contexto del discurso de odio, el Tribunal Europeo de Derechos Humanos ha dictaminado (en su jurisprudencia) que el discurso de odio puede ser restringido (si y solo si el discurso de odio apoya la discriminación o la violencia) y puede ser negada la protección, particularmente en el contexto de los niños (Citron, 2014; Consejo de Europa, 2006). En términos de preocupación respecto a los aspectos institucionales, las preocupaciones entre los diversos organismos de protección infantil (sistemas escolares y de justicia, y administración) son bajas y restringen la adopción de respuestas más integrales (Flores & Huamán, 2021; CEPAL, 2022).
Los países de la región han adoptado los estándares en su legislación nacional para implementar los principios básicos de la Convención sobre los Derechos del Niño, incluyendo la protección de los niños y tener en cuenta los derechos de los niños a ser protegidos de todas las formas de violencia, es decir, están cubiertos por la violencia digital (ONU, 1989; Comité de los Derechos del Niño, 2021). La ausencia de una descripción regulatoria clara del discurso de odio en forma digital significa que el sistema legal no puede resolver suficientemente la enorme disparidad entre los derechos concretos y su salvaguarda formal. Como encontraremos después de explorar esta batalla del discurso de odio digital en una era digital muy rápida y amplia, cuando los derechos de los niños/jóvenes no pueden protegerlos efectivamente (UNESCO, 2021; OCDE, 2021).
3. Latinoamérica y las ausencias de marcos regulatorios
La falta de un marco regulatorio concentrado para el discurso de odio digital en el ciberespacio está limitando la aplicación de la ley contra esta situación (Citron, 2014; Waldron, 2012). Además, el artículo peruano se ve aún más obstaculizado por ciertas lagunas legales en cómo definimos el discurso de odio digital, que no son legalmente accionables para discriminar e imponer castigos bajo la ley peruana (Valenzuela, 2023; Citron, 2014). Si bien ciertos actos pueden encajar dentro de los límites de la taxonomía criminal existente, estos regímenes ignoran la heterogeneidad del fenómeno, que podemos ver más claramente en el ámbito digital (Waldron, 2012; CEPAL, 2022) y así particularmente en contextos infantiles. Por supuesto, algunos comportamientos son castigados a través de formas establecidas de actos criminales, pero el marco existente es claramente inadecuado para abordar la naturaleza única del fenómeno (Waldron, 2012; CEPAL, 2022) en espacios digitales para menores (Waldron, 2012; CEPAL, 2022). Dado este contexto, un enfoque integrado que considere elementos de derecho, educación y psicología es esencial para la provisión de capacidades de protección adecuadas (UNICEF, 2023; Steinberg, 2014).
Los actos de discurso de odio tienen ramificaciones perjudiciales en la salud mental (es decir, atención psicológica inadecuada) y sistemas de apoyo efectivos, ambos de los cuales agravan el impacto del discurso de odio en menores (APA, 2022; Kowalski et al., 2014), junto con una espiral de problemas psicológicos (es decir, ansiedad, depresión, aislamiento). El caso demuestra que para combatirlo se necesitará un enfoque holístico, donde la protección legal, la enseñanza y las estrategias psicológicas deben tomarse para contrarrestarlo con mucho éxito. (UNICEF, 2023; Steinberg, 2014). Esto crea condiciones de impunidad que erosionan la confianza de los menores en el mecanismo de protección del statu quo (CEPAL, 2022; Valenzuela, 2023). Por ejemplo, en educación, las políticas de convivencia escolar y la prevención del ciberacoso son difíciles de implementar como resultado de la falta de recursos, la falta de capacitación de los docentes, la falta de un procedimiento claro para la intervención (UNESCO, 2021; OCDE, 2023)
Discusión.
Diversos estudios identifican que estas regulaciones no se implementaron efectivamente en la práctica, particularmente en el área de la violencia digital, que tiene estadísticas deficientes y una acción institucional limitada (Flores & Huamán, 2021; UNICEF, 2023). En áreas de educación, se reconocen obstáculos relacionados con el establecimiento e implementación de políticas de convivencia, prevención del ciberacoso, acceso a recursos, capacitación docente y procedimientos de intervención (UNESCO, 2021; OCDE, 2023). Como resultado, las prácticas escolares carecen de las herramientas necesarias para reconocer y responder a la violencia digital, impidiendo su rol proactivo (UNICEF, 2023; Flores & Huamán, 2021).
Sin embargo, con figuras delictivas más específicas, y de manera más detallada de lo que es posible en los espacios virtuales (Waldron, 2012; CEPAL, 2022), puede haber una solución para algunos tipos de comportamiento. Esto resulta en condiciones de impunidad que socavan la confianza en la protección actual de los menores (CEPAL, 2022; Valenzuela, 2023). Pero estas regulaciones se quedan cortas en muchas otras áreas, especialmente en lo que respecta a la violencia digital, porque el número de casos reportados y la respuesta institucional al informe son ambos deficientes (Flores & Huamán, 2021; UNICEF, 2023). En este sentido, se fomenta un sentimiento de impunidad que socava la confianza de los menores en las salvaguardas existentes (CEPAL, 2022; Valenzuela, 2023).
Las leyes pertinentes en Perú sobre el discurso de odio digital han sido vagas y no lo suficientemente precisas para proporcionar una orientación clara y un tratamiento individualizado o un castigo justo (Valenzuela, 2023; Citron, 2014). En consecuencia, los menores no confían en las salvaguardas de seguridad actuales (CEPAL, 2022; Valenzuela, 2023). Con respecto al discurso de odio digital, la ley peruana tiene una combinación de deficiencias en cuanto a la clasificación específica y el tratamiento y respuesta diferentes (Valenzuela, 2023; Citron, 2014). Pero estas leyes están mal implementadas, y muchas se implementan de manera inadecuada, particularmente en lo que respecta a la violencia digital, con mínimas denuncias y poca respuesta activa de las instituciones (Flores & Huamán, 2021; UNICEF, 2023).
Para los entornos educativos, estos datos indican que la capacidad para identificar y responder a incidentes de violencia digital es a veces muy limitada, limitando así sus capacidades preventivas (UNICEF, 2023; Flores & Huamán, 2021). Detrás de esto está el sistema educativo que enfrenta varios problemas. Cuando se enfrenta a desafíos que incluyen recursos insuficientes, preparación docente inadecuada para combatir tales problemas, y confusión sobre los métodos de intervención que ponen en peligro a los estudiantes (UNESCO, 2021; OCDE, 2023).
Para un niño pequeño, el discurso de odio tiene un mayor impacto psicológico, socavando la salud mental y el bienestar de los niños pequeños al contribuir a la ansiedad y el estrés, así como a la depresión y el aislamiento social (APA, 2022; Kowalski et al., 2014). Este es un tipo de situación para estrategias legales, actividades educativas e intervenciones psicológicas para salvar el sistema de la discriminación (UNICEF, 2023; Steinberg, 2014). De manera similar, nuestra visión de la dignidad nos permite entender que el discurso de odio ataca a las personas y erosiona el orden social en el que existen la igualdad y el reconocimiento de las relaciones humanas (Waldron, 2012; Sunstein, 2017).
Conclusión
A través de este estudio, se puede concluir que existe la posibilidad de que el discurso de odio digital contra niños y jóvenes entre en conflicto con las expectativas normativas del derecho constitucional: especialmente con respecto a la interpretación de la libertad de expresión (Citron, 2014; Waldron, 2012). (UNICEF, 2023) En este sentido, hay una mayor necesidad de formular un plan de acción que nunca. Se centran en los aspectos digitales de nuestras vidas y también abordan las vulnerabilidades de los jóvenes.
La libertad de expresión no es un derecho absoluto. Solo cuando se relaciona con los derechos esenciales de los miembros vulnerables de la comunidad, como los que comprenden a niños y jóvenes, puede ser restringida en la práctica (Alexy, 2007; Comité de los Derechos del Niño, 2021). Se debe adoptar un enfoque de proporcionalidad al problema y modificarlo para tratar con el componente evolutivo de los menores (APA, 2022; Kowalski et al., 2014).
En segundo lugar, el análisis comparativo también muestra que el sistema europeo ha hecho mayores avances hacia enfrentar los desafíos de un entorno digital moderno mediante la integración de plataformas tecnológicas que permiten un paradigma de responsabilidad conjunta (Unión Europea, 2022; Gillespie, 2018).
La situación es aún más problemática en América Latina, ya que las debilidades estructurales de la implementación de políticas públicas han expuesto una brecha entre la norma y la realidad (Por lo tanto, la brecha afecta directamente la capacidad para tratar con menores en esa región) (UNICEF, 2023; CEPAL, 2022). Como resultado, la ausencia de mecanismos de coordinación y medidas de prevención dentro de las instituciones limita el impacto y la efectividad de los remedios para combatir el discurso de odio digital (UNESCO, 2021; OCDE, 2023).
Esto es esencial, y Perú se beneficiará de un plan de acción integral con un delicado equilibrio entre las limitaciones a la libertad de expresión, la modernización de las regulaciones para abordar el desarrollo infantil y la solidaridad entre el estado, la sociedad civil y las plataformas digitales para lograr este objetivo. Es la única manera de tener un equilibrio justo que proteja los derechos fundamentales de los niños y los derechos a la libertad de expresión en el ámbito digital (UNESCO, 2021; OCDE, 2023).
Referencias
Alexy, R. (2007). Teoría de los derechos fundamentales. https://www.corteidh.or.cr/tablas/r25294.pdf
American Psychological Association. (2022). Ciberacoso: qué es y cómo prevenirlo. https://www.apa.org/topics/bullying/cyberbullying
Bandura, A. (1977). Teoría del aprendizaje social. Prentice Hall.
CEPAL. (2022). La sociedad digital en América Latina y el Caribe: brechas, oportunidades y desafíos. https://www.cepal.org/es/publicacione
Citron, D. (2014). Crímenes de odio en el ciberespacio. Harvard University Press. https://www.hup.harvard.edu/books/9780674368298
Comité de los Derechos del Niño. (2021). Observación general N.º 25 sobre los derechos de los niños en relación con el entorno digital. Naciones Unidas. https://www.ohchr.org
Consejo de Europa. (2006). Manual sobre discurso de odio y jurisprudencia del Tribunal Europeo de Derechos Humanos. https://www.echr.coe.int
Corte Interamericana de Derechos Humanos. (2004). Caso Herrera Ulloa vs. Costa Rica: libertad de expresión. https://www.corteidh.or.cr
Unión Europea. (2022). Ley de Servicios Digitales: regulación del mercado único de servicios digitales. https://eur-lex.europa.eu
Gillespie, T. (2018). Guardianes de internet: plataformas, moderación de contenidos y decisiones ocultas en redes sociales. Yale University Press. https://yalebooks.yale.edu
Kelsen, H. (1960). Teoría pura del derecho.
Kowalski, R., Giumetti, G., Schroeder, A., & Lattanner, M. (2014). Acoso en la era digital: revisión crítica y metaanálisis. https://doi.org/10.1037/a0035618
Lessig, L. (2006). Código 2.0: leyes y arquitectura del ciberespacio. Basic Books. https://codev2.cc
OECD. (2021). Niños en el entorno digital: tipología revisada de riesgos. https://www.oecd.org
OECD. (2023). Educación en la era digital: oportunidades y desafíos. https://www.oecd.org/education
ONU. (1989). Convención sobre los Derechos del Niño. https://www.un.org
ONU. (1966). Pacto Internacional de Derechos Civiles y Políticos. https://www.ohchr.org
Pew Research Center. (2022). Adolescentes, redes sociales y acoso en línea. https://www.pewresearch.org
UNESCO. (2021). Alfabetización digital y lucha contra el discurso de odio en línea. https://unesdoc.unesco.org
UNICEF. (2023). Violencia contra niños en entornos digitales. https://www.unicef.org
Valenzuela, F. (2023). Discursos de odio digital y protección de menores en Perú.
Waldron, J. (2012). El daño del discurso de odio. Harvard University Press. https://www.hup.harvard.edu
