El pasado año fuimos testigos de cómo varias chicas menores de edad de Almendralejo descubrían que algunos de sus compañeros habían usado una inteligencia artificial (IA) para crear imágenes falsas en las que aparecían desnudas. Estas imágenes circulaban por grupos de WhatsApp. Igual ocurría en casos similares que se daban en localidades de Huelva y Madrid.
Para producir estas imágenes pornográficas, es tan fácil como descargarse una app o entrar en una web al alcance de cualquiera, como ocurrió con estos menores. Según datos recogidos por la plataforma de control parental Qustodio, uno de cada cinco menores de entre cuatro y dieciocho años ha utilizado alguna IA, como puede ser la conocida ChatGPT.
La investigadora líder del grupo Género y TIC (GenTIC), del Internet Interdisciplinary Institute (IN3) de la Universitat Oberta de Catalunya (UOC), Milagros Sáinz, sostiene que “la mayoría de los jóvenes utilizan IA desde edades muy tempranas sin cuestionarse nada acerca de estas herramientas”.
En esta línea, señala que “estas tecnologías están sujetas a sesgos, estereotipos y discriminación, y pueden afectar a la salud mental y el bienestar emocional de los menores, sobre todo de las chicas, que son quienes reciben más ciberataques y son víctimas de ciberacoso”.
Por ello, Sáinz hace hincapié en la necesidad de «inculcar a los adolescentes la necesidad de hacer un uso ético y responsable de estos recursos para favorecer su equilibrio y su integridad física y mental». Para ello, se apoya en dos bases fundamentales.
FORMAR AL PROFESORADO
El primer aspecto a tener en cuenta es la educación desde las aulas. En este sentido, Sáinz expresa que «resulta crucial que el profesorado pueda trabajar con el alumnado sobre temas como el hecho de no compartir contenidos que les puedan comprometer, ni tampoco contraseñas, fotos o información personal».
Además, señala que «las chicas y mujeres jóvenes son quienes más acoso y ciberataques reciben, según un informe elaborado por el Instituto de las Mujeres en 2022, ya sea para insultarlas, criticarlas, convencerlas de entrar en contacto con personas de dudosa identidad e intenciones, ser objeto de ataques sexistas o recibir solicitudes de envío de fotos íntimas».
«Las redes no son más que una extensión o amplificación de las desigualdades de género ya existentes, y los medios digitales simplemente se aprovechan de esas debilidades y de la vulnerabilidad de las jóvenes, muy condicionadas por la presión estética, sobre todo en los primeros años de adolescencia», afirma.
CORTAR CON LOS ESTEREOTIPOS
Uno de los principales aspectos que aborda el GenTIC para trabajar con los docentes en las aulas es la presión de los estereotipos. La investigadora líder apunta que «tiene una gran influencia, sobre todo en las chicas. Basta mirar la gran cantidad de filtros que utilizan en sus fotografías en redes sociales».
«Algunos estudios científicos muestran como los adolescentes buscan a través de las redes la aceptación o validación social, principalmente, de su grupo de pares, lo cual afecta tanto a su bienestar como a su autoestima». Por ello, Sáinz insiste en la importancia de «empoderarlos para que puedan afrontar los retos del futuro que tiene este ámbito digital».
