Desnudos falsos, violencia real: el patriarcado también se reproduce con inteligencia artificial

OPINIÓN. En el Colegio Modelo de Lomas de Zamora, según denunciaron las familias, un grupo de estudiantes habría utilizado herramientas de inteligencia artificial para generar imágenes sexuales falsas de sus compañeras a partir de fotografías. El caso alcanzaría a alrededor de 50 alumnas y el material habría circulado entre estudiantes, llegado a plataformas de contenido para adultos y sido comercializado. La Justicia investiga lo ocurrido y hay adolescentes imputados en la causa. No se trata de una travesura que se salió de control ni de un conflicto entre compañeros: estamos frente a una denuncia de violencia sexual digital que involucra a niñas y adolescentes.

La inteligencia artificial es nueva en esta ecuación. La violencia, no. Desde que las infancias y las adolescencias accedieron masivamente a celulares, redes sociales y plataformas digitales, conocemos distintas formas de hostigamiento: compartir fotografías sin permiso, difundir conversaciones privadas, viralizar imágenes íntimas, humillar a una compañera en un grupo de mensajería o utilizar la exposición pública como mecanismo de disciplinamiento.

 La tecnología cambia, las herramientas se perfeccionan y las posibilidades de difusión se multiplican. Pero la lógica de fondo persiste: convertir el cuerpo y la intimidad de las mujeres en objetos disponibles para la mirada, el comentario y el consumo ajeno.

Lo que antes podía requerir una fotografía real hoy puede fabricarse con inteligencia artificial. Una imagen cotidiana, tomada de una red social, puede transformarse en una representación sexual que nunca existió. La víctima no necesita haberse fotografiado desnuda, haber producido contenido íntimo ni haber consentido ninguna práctica sexual. Alguien decide fabricar esa representación y atribuírsela.

Que la imagen sea falsa no vuelve falso el daño. La exposición, la humillación, el miedo, el hostigamiento y la pérdida de control sobre la propia identidad son consecuencias reales. Y cuando las víctimas son adolescentes que deben volver al aula, encontrarse con sus compañeros y transitar todos los días los mismos espacios en los que se produjo la agresión, la violencia no termina cuando se cierra una aplicación.

El patriarcado y sus herramientas digitales

Nos acostumbramos a pensar el patriarcado como una estructura que se expresa en las relaciones de pareja, en el ámbito laboral, en la política, en la distribución de las tareas de cuidado o en las distintas formas de violencia física y simbólica. Pero también se reproduce en las pantallas, en los grupos de WhatsApp, en las plataformas y en los sistemas de inteligencia artificial. Y lo hace desde edades cada vez más tempranas.

No porque las adolescencias sean intrínsecamente violentas ni porque toda tecnología conduzca necesariamente a la agresión, sino porque las herramientas digitales no aparecen en el vacío: son utilizadas por personas que crecen en una sociedad atravesada por desigualdades de género, mandatos de masculinidad y una cultura que históricamente sexualizó los cuerpos femeninos.

La pregunta, entonces, no debería limitarse a qué aplicación utilizaron los estudiantes o cómo consiguieron producir esas imágenes. También necesitamos preguntarnos qué ideas sobre el consentimiento, la intimidad y el cuerpo de las mujeres hacen posible que alguien considere aceptable desnudar digitalmente a una compañera.

Porque para fabricar estas imágenes hay una decisión. Para distribuirlas, otra. Para ofrecerlas como mercancía en un catálogo, otra más. La inteligencia artificial puede automatizar procesos, pero no elimina la responsabilidad humana detrás de ellos.

Amnistía Internacional advierte que nueve de cada diez deepfakes que circulan en internet son imágenes pornográficas no consentidas de mujeres. El dato permite dimensionar que no estamos frente a una utilización excepcional de la tecnología, sino ante una modalidad de violencia que afecta de manera desproporcionada a mujeres, niñas y adolescentes.

¿Quién consume la violencia?

Hay un aspecto del caso de Lomas de Zamora que merece una discusión particular: las denuncias no hablan solamente de la creación de imágenes falsas, sino también de su circulación y comercialización. La existencia de un catálogo, según lo denunciado, supone una organización del material para ofrecerlo a otras personas.

Y ahí aparece una pregunta incómoda: ¿quiénes están del otro lado de la pantalla? En las conversaciones que se multiplicaron en redes sociales después de conocerse el caso, también hubo usuarios adultos que pedían acceder a las imágenes de las menores, que realizaban comentarios subidos de tono, que hacían chistes con alto contenido de morbo y pedofilia. Ese comportamiento obliga a correr el foco de quienes las fabricaron para mirar también a quienes las buscan, las solicitan, las celebran y las consumen.

La violencia digital no se sostiene únicamente con quien produce el contenido. También necesita circulación, audiencia y, cuando existe comercialización, una demanda que le otorgue valor. Quien pide ver imágenes sexuales falsas de adolescentes no es un espectador neutral de una polémica escolar. Está participando de una lógica que transforma la intimidad vulnerada de otras personas en un producto de consumo.

No alcanza con señalar a los adolescentes involucrados y dar por terminado el debate. Hay que preguntarse qué responsabilidad tienen los adultos que buscan ese material, qué hacen las plataformas que lo alojan o distribuyen y qué mecanismos existen para impedir que las imágenes continúen circulando.

La responsabilidad debe establecerse según la conducta de cada persona y las circunstancias del caso. Pero una mirada integral no puede detenerse en el primer eslabón de la cadena: también debe observar las condiciones que permiten que estas prácticas se reproduzcan.

La escuela no puede mirar para otro lado: el rol de la ESI 

La escuela no es ajena a lo que sucede en internet. Las relaciones entre estudiantes no terminan cuando suena el timbre ni empiezan necesariamente dentro del aula. Los grupos digitales, las redes sociales y las plataformas forman parte de la vida cotidiana de las adolescencias. Lo que sucede allí puede ingresar al establecimiento, afectar los vínculos, condicionar la convivencia y convertir cada jornada escolar en una experiencia de exposición y temor.

Por eso, ante una situación de violencia digital, la respuesta institucional no puede reducirse a una sanción disciplinaria ni a una decisión administrativa. Las familias denunciaron que las autoridades del establecimiento conocían lo sucedido desde semanas antes de que el caso tomara estado público y cuestionaron la respuesta inicial de la institución. Esas actuaciones deberán esclarecerse, pero el reclamo plantea una cuestión que excede este episodio: ¿qué herramientas tienen las escuelas para detectar, abordar y reparar las consecuencias de la violencia digital?

Una institución educativa debe proteger a quienes sufrieron la agresión, evitar que sean expuestas nuevamente, escuchar sus necesidades y garantizar que puedan continuar su trayectoria escolar sin cargar con las consecuencias de una violencia que no eligieron. También debe intervenir frente a quienes participaron, con medidas acordes a las responsabilidades y a los derechos de niñas, niños y adolescentes.

Esto no significa minimizar lo ocurrido ni reemplazar la intervención judicial cuando corresponde. Significa entender que una escuela no puede delegar toda su responsabilidad en la Justicia, así como tampoco puede resolverlo todo mediante una expulsión o una sanción. Una respuesta exclusivamente punitiva puede parecer inmediata, pero no necesariamente transforma las condiciones que hicieron posible la violencia. Sancionar puede ser necesario; prevenir, educar y reparar también lo son. 

Hace años que la Educación Sexual Integral nos permite discutir el consentimiento, el respeto por el propio cuerpo y el de otras personas, los vínculos, la autonomía y las desigualdades de género. Sin embargo, esos contenidos necesitan dialogar de manera cada vez más explícita con las experiencias digitales de las infancias y las adolescencias.

Necesitamos que la ESI incorpore de forma sistemática la violencia de género digital: la difusión no consentida de imágenes, la manipulación sexual de fotografías, el hostigamiento en redes, la extorsión, la suplantación de identidad y las formas de violencia que pueden surgir del uso de inteligencia artificial.

En este sentido, la Ley Ema y la Guía Ema constituyen herramientas relevantes para pensar cómo prevenir y abordar estas situaciones en los ámbitos educativos. La iniciativa legislativa propone formación específica, contenidos de ESI en clave digital, capacitación docente y campañas de sensibilización para toda la comunidad educativa. La guía, elaborada por la familia de Ema Bondaruk junto con organizaciones especializadas, ofrece orientaciones para acompañar a quienes atraviesan situaciones de violencia digital sin culpabilizarlos ni revictimizarlos.

No alcanza con enseñar a proteger una contraseña o advertir sobre los riesgos de compartir fotografías. También hay que educar para reconocer que detrás de cada perfil hay una persona con derechos, que el consentimiento es indispensable y que ninguna herramienta tecnológica convierte una agresión en una conducta inocua. La prevención debe alcanzar a estudiantes, docentes, equipos directivos y familias. Porque no podemos exigirles a las adolescencias que resuelvan por sí solas problemas para los que muchas veces las personas adultas tampoco cuentan con herramientas suficientes.

Un patriarcado en territorio digital, una sociedad que debe responder

La inteligencia artificial abre posibilidades extraordinarias para la ciencia, la educación, la creatividad y el desarrollo humano. Pero ninguna innovación tecnológica está por encima de los derechos de las personas, ni puede evaluarse únicamente por lo que permite hacer. También debemos preguntarnos quién la utiliza, con qué objetivos, sobre quiénes recaen sus consecuencias y qué mecanismos existen para prevenir los daños.

El caso de Lomas de Zamora nos obliga a reconocer que las infancias y las adolescencias ya habitan un territorio digital donde se construyen vínculos, identidades, deseos y formas de pertenencia. Allí también se ejercen relaciones de poder. Allí también hay violencia de género. El patriarcado adquirió ahora herramientas más veloces, accesibles y capaces de producir contenidos que antes requerían otros recursos. La tecnología puede ampliar el alcance de una agresión y multiplicar sus efectos, pero la desigualdad que la sostiene es anterior.

Por eso, el desafío no consiste únicamente en legislar sobre las nuevas herramientas. También debemos educar, prevenir, escuchar y construir instituciones capaces de intervenir a tiempo. Debemos exigir responsabilidad a quienes producen y consumen estos contenidos, a las plataformas que los distribuyen y a los organismos que tienen la obligación de proteger derechos.

Los desnudos pueden ser falsos. La violencia es real. Y la responsabilidad de enfrentarla también debe serlo.