La creciente propagación de desinformación y contenidos maliciosos, reforzada por el uso de inteligencia artificial (IA), sitúa a los más jóvenes en el centro de la vulnerabilidad frente a discursos de odio y estereotipos discriminatorios. En este escenario, vemos cómo la cultura figital –esa convergencia de lo físico y lo digital– fusiona ambas realidades en una experiencia única e ininterrumpida. Desde edades cada vez más tempranas, las nuevas generaciones acceden a dispositivos móviles y a redes sociales, determinando su visión del mundo.

El concepto de cultura figital nos presenta un nuevo escenario en el que “las realidades sociales espaciales y temporalmente específicas ya no se limitan al mundo físico; los procesos de desplazamiento por el espacio y establecimiento de puntos en común pueden tener lugar ahora tanto online como offline”.

Esta integración progresiva de lo físico y lo digital, percibido como un sólo entorno conectado, se hace especialmente patente entre la población joven, cuyas actividades cotidianas –estudio, ocio, socialización– se desarrollan de forma simultánea en ambos planos.

El informe Mi realidad conectada: Sí, también soy digital, de la Fundación Cibervoluntarios (2023), aporta datos relevantes sobre el acceso a la tecnología en España: el 57,5 % de los jóvenes recibe su primer dispositivo entre los 10 y 12 años; el 32,6 % lo obtiene entre los 14 y 16 años. Y mas del 90 % de la juventud accede a su primer móvil antes de los 16 años.

La integración de lo físico y lo digital, percibido como un sólo entorno conectado, se hace especialmente patente entre la población joven, cuyas actividades cotidianas  se desarrollan de forma simultánea en ambos planos

Estos datos coinciden con las tendencias señaladas por el informe Common Sense Media (2019), que sitúa en Estados Unidos la edad media de inicio del uso del primer teléfono inteligente entre los 10 y 12 años.

Paralelamente, el acceso a redes sociales suele situarse alrededor de los 13 años, impulsado en gran parte por la curiosidad y el deseo de integrarse en la vida social de sus semejantes. No obstante, la legislación de muchos países establece los 13 o 14 años como edad mínima para el uso de redes y, aun así, la realidad muestra que los menores a menudo comienzan a interactuar en plataformas digitales por debajo de ese umbral.

La ausencia de una educación mediática temprana incrementa el riesgo de que los menores acepten narrativas manipuladas como verdades incuestionables. El intercambio de memes y contenido visual en redes puede banalizar un contenido discriminatorio sin la conciencia necesaria para procesar el impacto de este tipo de mensajes. El informe Common Sense Media señala cómo el acceso de los niños a medios digitales de forma independiente desempeña un papel destacado que perfila “su sentido de identidad, su conciencia social, su bienestar y su acceso a la información, desde la política hasta el último meme viral”.

El papel amplificador de la IA

La desinformación consiste en la divulgación, con o sin intencionalidad, de contenidos falsos o engañosos que alteran la comprensión de la realidad. En la era de la inmediatez digital, las fake news se comparten a enorme velocidad, alimentando percepciones sesgadas y comportamientos extremistas.

Los discursos de odio –definidos por el Consejo de Europa (2019) como la incitación o justificación de la violencia y la discriminación contra colectivos– hallan en las redes sociales un vehículo para su amplificación, especialmente ante audiencias con escasas herramientas críticas, como niños y adolescentes.

La investigación “Romper cadenas de odio, tejer redes de apoyo: los y las jóvenes ante los discursos del odio” realizada en el marco del proyecto No More Haters, señala que “los jóvenes afirman enfrentarse en redes a mensajes de odio con gran carga ideológica y política sin la preparación necesaria para asimilarlos”.

Un 38,1 % (de los jóvenes consultados) señaló haber visto, en el último año, “páginas donde la gente publica mensajes que atacan a ciertos individuos o colectivos”

Este artículo parte de la constatación del espacio digital como un entorno que puede favorecer la difusión de estos mensajes, a los que la población más joven está más expuesta por el uso de las redes sociales e internet: un 38,1 % (de los jóvenes consultados) señaló haber visto, en el último año, “páginas donde la gente publica mensajes que atacan a ciertos individuos o colectivos”.

En este sentido, el estudio “Discurso de odio sexista en redes sociales y entornos digitales” (Sigma Dos, 2021) establece cuatro tipos de “facilitadores” o mecanismos que fomentan los discursos de odio entre los que se encuentran: el anonimato y la distancia que favorecen la emisión de mensajes hostiles, la sensación de impunidad con esa idea de ausencia de consecuencias frente a determinados comportamientos en redes y las cámaras de eco y los algoritmos que hacen que los adolescentes se rodeen de opiniones afines, reforzando sesgos y creencias extremas.

Estos riesgos se amplifican con la llegada de sistemas de inteligencia artificial capaces de generar y difundir información falsa de manera masiva. Los algoritmos de recomendación crean “burbujas de filtro”, en la que los ciudadanos quedan aislados de otras opiniones, reforzando una visión del mundo menos diversa.

La IA irrumpe en este escenario como un amplificador de la desinformación al elaborar vídeos e imágenes sintéticas (deepfakes) que pueden dañar la reputación de individuos o colectivos, extendiendo estereotipos racistas y bulos difíciles de refutar. Samuel C. Woolley y Phil Howard (2018) señalan cómo este tipo de tecnología hace que la desinformación sea mucho “más difícil de rastrear”.

Los istemas de inteligencia artificial son capaces de generar y difundir información falsa de manera masiva. Los algoritmos de recomendación crean “burbujas de filtro”

Desinformación y discurso de odio

La desinformación que presenta a ciertos grupos raciales como amenazas a la identidad nacional y a la seguridad ciudadana alimenta narrativas radicales estableciendo “una voluntad de supremacía ideológica y un riesgo para las democracias liberales”.

Los titulares sensacionalistas y emocionales se viralizan rápidamente sin la debida verificación.

En estos mensajes también se emplea el humor y memes para legitimar el odio. Las dinámicas de meme o el humor sarcástico pueden enmascarar expresiones xenófobas, presentándolas como algo inofensivo. Los movimientos antiderechos instrumentalizan el humor “hacia abajo” –disfrazado de rebeldía– para difundir discursos de odio no punibles.

La investigadora de la Universidad Hebrea de Jerusalén Limor Shifman (2014) señala que los memes, como “unidades de contenido digital” replicables y fáciles de transformar, tienen un gran potencial para normalizar estereotipos. A su vez, autores como Cass R. Sunstein (2017), de la Universidad de Harvard, advierten que esta manipulación se aprovecha de defectos cognitivos para instalar prejuicios sin que el receptor sea plenamente consciente.

Los memes, como unidades de contenido digital replicables y fáciles de transformar, tienen un gran potencial para normalizar estereotipos.

Una respuesta urgente

Los diversos estudios citados ponen de manifiesto la necesidad de reforzar la alfabetización mediática e informacional desde edades tempranas, dotando a los más jóvenes de competencias digitales que les permitan detectar bulos, cuestionar memes discriminatorios y reflexionar sobre cómo quieren que sea su participación en las redes sociales:

• Formación en pensamiento crítico: para analizar informaciones virales y verificar su autenticidad.
• Conciencia de los algoritmos: comprender los procesos de personalización que encierran al usuario en “burbujas de filtro”.
• Responsabilidad en el uso del humor: los memes y el sarcasmo pueden enmascarar discursos de odio que se legitiman como “bromas”.
• Protección de la infancia y la adolescencia: las instituciones, las familias y las propias redes deben propiciar un clima de respeto a la diversidad.
• Estudios como el de la Fundación Cibervoluntarios (2023) indican que el acceso al primer móvil se produce antes de los 16 años. Por ello, es esencial contar con herramientas educativas que contrarresten la desinformación migratoria difundida a través de memes, vídeos cortos y narrativas emocionales en las redes.

La colaboración entre educación, investigación y ética tecnológica, junto con la alfabetización sobre bulos migratorios impulsada por las instituciones públicas, se revela como el mejor de los antídotos contra la desinformación y los discursos de odio, garantizando así sociedades más inclusivas y democráticas.

La investigadora en alfabetización mediática Eva Herrero destaca la vulnerabilidad de los niños ante la desinformación y los discursos de odio en redes. Por ello, es crucial incluir la alfabetización mediática en el currículo escolar para que aprendan a identificar información falsa. Este esfuerzo debe ser colaborativo, involucrando a docentes, familias, empresas tecnológicas, gobiernos y el tercer sector para fomentar un pensamiento crítico, esencial en la actualidad.