Violencia digital: la Ley Ema y el desafío de llegar antes

El caso de deepfake, la creación y difusión de imágenes de desnudos hechas con Inteligencia artificial que afectó a alumnas del Colegio Modelo Lomas, en Lomas de Zamora, puso en discusión la violencia digital entre adolescentes. Según denunciaron las familias, se habrían manipulado fotografías de las estudiantes y difundido el material, incluso en sitios de contenido pornográfico. La investigación judicial incluyó allanamientos y el secuestro de dispositivos electrónicos. Según informó La Nación, cuatro adolescentes ya están siendo investigados.

Más allá de las responsabilidades individuales que deberá establecer la Justicia, el episodio abrió una discusión que excede el uso de la inteligencia artificial: cómo prevenir estas agresiones, qué herramientas tienen las escuelas para intervenir y cómo acompañar a las víctimas cuando el daño ya se produjo.

Para analizar qué respuestas pueden construirse frente a estas situaciones, EL PALCO consultó a legisladoras vinculadas al recorrido de la Ley Ema y al debate sobre las herramientas educativas necesarias para prevenir y abordar la violencia digital. Sus miradas coinciden en que el problema no se resuelve con una norma aislada: requiere prevención, formación, acompañamiento y una intervención institucional capaz de actuar antes y después de que se produzca el daño.

Las leyes no son mágicas

La Ley Ema, aprobada en el Senado bonaerense y a la espera de su tratamiento en Diputados para obtener la sanción definitiva, establece herramientas para prevenir, detectar y abordar situaciones de violencia digital en el sistema educativo provincial. El proyecto modifica la Ley Provincial de Educación e incorpora contenidos vinculados con la ciudadanía digital, el consentimiento, la privacidad y la prevención de situaciones como el grooming, la sextorsión y el ciberacoso.

Uno de sus antecedentes es la Guía Ema, declarada de interés legislativo. El recorrido de las iniciativas que confluyeron en la Ley Ema y las diferencias entre ambos proyectos ya fueron reconstruidos por EL PALCO.

En relación con el caso de la Escuela Lomas Modelo, la diputada Mayra Mendoza sostiene: “No nos alcanza con enseñar a usar la tecnología: hay que enseñar a no convertirla en violencia”. También remarca la importancia de impulsar la Ley Ema y la Ley de Educación Digital Integral, y recupera un punto que ya había señalado durante la presentación del proyecto: “Porque no podemos esperar a que el daño esté hecho para intervenir”.

“Necesitamos escuelas con herramientas para prevenir, acompañar y actuar frente a las nuevas formas de violencia que surgen con la tecnología y la inteligencia artificial”

Así lo entiende también la senadora Mónica Macha: “Para nosotras la construcción de la Guía Ema y la ley Ema tenía que ver con eso, con poder buscar alguna respuesta frente a este problema”.

“Y por eso siempre hacemos hincapié en dos cosas, en que es con la comunidad educativa, o sea, que no es un problema de la escuela o de la familia, sino que es un problema social y que estas dos instituciones tienen que laburar juntas para poder revertir la situación”.

Macha también insiste en la importancia de escuchar a los adolescentes y romper con el adultocentrismo. En esa línea, la senadora Laura Clark plantea: “Los adolescentes tienen voz, tenemos que tener el tiempo para interactuar con ellos, que tienen mucho para aportar, y en ese proceso se van construyendo marcos éticos, de cuidado, de respeto, antes de que sucedan situaciones como las que estamos hablando”.

La implementación de las normas es otro de los puntos centrales para Malena Galmarini, quien advierte que “las leyes no son mágicas”. “O sea, no es que sale una ley y ya está resuelto el problema. Todo lo contrario, después es cuando viene el mayor conflicto que es la implementación de esa ley”, explica.

“Entonces, hay cosas que vos necesitás que tengan letra, además de la buena voluntad de quienes aplican las leyes. Pero después es mucho de militar las leyes.”

Y detalla: “Esto significa ir a las escuelas, hablar con las directoras, las maestras o profesores, bajar un montón de prejuicios, qué sé yo, hablar hasta con los auxiliares”. Galmarini también destaca la importancia de articular la ESI con otras iniciativas, como la Ley de Educación Emocional, que obtuvo su sanción definitiva en el Senado bonaerense. Aunque tengan recorridos parlamentarios separados, sostiene, estas herramientas deben trabajarse en forma integrada.

Qué hacer antes de que ocurra

“La violencia digital no se combate solamente cuando el daño ya está hecho. Se combate también disputando los discursos que la naturalizan, construyendo políticas de prevención y garantizando que las escuelas tengan herramientas para proteger a nuestras pibas y nuestros pibes”, sostiene Mendoza, al tiempo que remarca que “estas violencias no aparecen de manera aislada”.

“Son parte de una cultura política y digital en la que se promueven las granjas de trolls, los discursos de odio y las agresiones permanentes en las redes sociales que habitamos”, asegura. Y analiza: “Cuando desde determinados sectores se legitima la agresión como forma de vincularse con quienes piensan distinto, esas prácticas también pueden trasladarse a otros ámbitos de la sociedad, incluidas nuestras escuelas”.

Macha también vincula la violencia digital con el contexto político y el retroceso de las políticas de prevención y acompañamiento: “Tenemos una sociedad muy compleja, con un presidente que habilita cualquier cosa, que habilita ese tipo de violencia, que quitó todas las políticas públicas que tuvo a su alcance, que tenían que ver con la prevención y el acompañamiento y estas son las consecuencias. Así como aumentan los femicidios, aumenta también la violencia de género digital”.

El desafío se amplía al ámbito virtual, donde aparecen viejas prácticas reproducidas en nuevas formas. Así lo entiende Clark, que plantea la importancia de “tener el foco en estas nuevas formas en que se expresan las violencias, porque no son nuevas violencias, sino que se expresan de manera inconmensurable en los ámbitos digitales”.

“Es indispensable el rol adulto en el acompañamiento del desarrollo de los adolescentes, así como debe hacerlo en la vida real, también en estos territorios virtuales que atraviesan nuestras vidas”, señala la senadora. También considera indispensable la regulación de las plataformas y que se conozcan los límites: “Los territorios digitales también hay obligaciones y derechos que no puedan ser vulnerados”.

Lo virtual es real

“La inteligencia artificial avanza todos los días. Nuestra responsabilidad política es que los derechos también avancen”, sostiene Mendoza al referirse a las respuestas que deben construirse cuando la violencia ya ocurrió. “Eso requiere legislación, políticas públicas, educación sexual integral, ciudadanía digital y escucha activa: mirarse a los ojos y abrazar para no juzgar”.

“No alcanza con enseñar a utilizar las herramientas tecnológicas: tenemos que formar para ejercer derechos, respetar la intimidad y construir vínculos libres de violencia”, explica la diputada. Pero ¿qué sucede cuando quienes vulneran la intimidad de una adolescente también son menores de edad? ¿Qué respuesta necesita la comunidad educativa?

Macha considera que debe haber una sanción, pero advierte sobre los límites de las medidas centradas en la exclusión. “Y acá tenemos otro problema. O sea, primero creo que hay que buscar la forma de sancionar porque lo que no puede es quedar en un limbo, sino lo que aparecen son medidas como estas que se toman en Lomas de que los pibes ahora estudian de modo virtual y que el año que viene no les van a renovar la matrícula”, sostiene.

La legisladora también pone el acento en la persistencia del daño cuando las imágenes continúan circulando: “Entonces, lo que hicieron es muy grave porque la comercialización de esas imágenes hace que sea muy difícil de remover ese contenido. Para las pibas es un gran problema el que les ha generado porque ellas pueden hoy cerrar sus redes, cambiar el celular, pero sus fotos y sus datos van a seguir dando vueltas”.

Sobre las medidas adoptadas por la escuela Lomas Modelo, agrega: “Si la decisión es excluirlos, es una sanción que no transforma la situación de los pibes y que los deja en un lugar también de exclusión de las instituciones que, en términos puntuales una persona puede sentirse resarcida, pero en términos sociales estamos dejando que esos pibes estén sin red”.

Clark también plantea que la respuesta debe contemplar tanto a las víctimas como a quienes difundieron las imágenes. Entiende que “hay un gran trabajo por hacer, de acompañamiento con las adolescentes y víctimas, pero también con los varones que han hecho esta viralización de esas imágenes; que por supuesto debe tener en cuenta la sanción, pero también cómo a partir de esto empezar a trabajar con estas juventudes para que puedan procesar con información”.

“Con mucha ESI, con muchos ámbitos de poner en palabras y de tener conciencia que lo virtual es real, y hacerlo con los equipos directivos, con docentes que tienen que tener, por ejemplo, a partir de la Ley Ema, una capacitación específica”.

“Son herramientas indispensables para las escuelas, para las familias, también para las y los jóvenes. Es una forma de resistencia ética y de cuidado frente a un escenario social y político que promueve la violencia, que mercantiliza nuestras vidas, nuestras subjetividades y en universos mucho más vulnerables que son las niñeces o las adolescencias”, concluye Clark.

La responsabilidad colectiva

Malena Galmarini propone pensar el caso como un problema más amplio que el uso de la inteligencia artificial. Para eso, compara el cuidado comunitario de otras épocas (la familia, los vecinos y otros adultos atentos a lo que ocurría) con un presente en el que los chicos pueden quedar solos frente a las pantallas.

“Lo que pasó en el colegio Lomas Modelo no es un problema de la inteligencia artificial. Es el fracaso nuestro de nuestra generación”, reflexiona, sin restarle relevancia a la tecnología, pero poniendo el foco en la responsabilidad adulta y social y en la crianza comunitaria.

“Antes, mi vecina me miraba mientras cruzaba la calle, no te seguía tu mamá por WhatsApp, no había una cosa tan inmediata, sino algo más del cuidado comunitario, donde la crianza era colectiva, por supuesto, colectiva entre mujeres”.

“Pero un día los pibes se encontraron en una calle que, para nosotros era menos peligrosa porque pasaba por la cocina de casa o por el cuarto de ellos, que es la banda ancha. Entonces, mi vecina que miraba que yo estaba cruzando la calle ya no está. Cuando esa calle o esa avenida dejó de ser territorial y pasó a ser del mundo virtual, nadie miró”, reflexiona la senadora.

Sobre la crianza comunitaria, sostiene que “el problema es que nos ganaron hace mucho tiempo la batalla cultural respecto de la individualización de los cuidados”. Y asegura que el fenómeno va más allá de Milei: “Al personalizar la crianza en esas mujeres madres, se nos vino encima ese eje cultural donde lo importante es ser feliz”.

“O sea, lo único importante es que seamos felices. Soltá, si sucede conviene. Tanto nos enseñaron a soltar que hoy no sostiene nadie nada”.

El caso vuelve a poner sobre la mesa una discusión que atraviesa las miradas de las cuatro legisladoras: cómo prevenir la violencia digital, qué hacer cuando ya se produjo el daño y de qué manera evitar que la respuesta se limite a sancionar o excluir. La Ley Ema busca aportar herramientas desde el sistema educativo, pero su alcance dependerá también de la formación, el acompañamiento y la capacidad de los adultos y las instituciones para intervenir.