El caso de violencia digital investigado en San Justo, donde imágenes de adolescentes fueron manipuladas mediante inteligencia artificial para simular desnudos y posteriormente difundidas, volvió a encender las alarmas sobre una problemática que, según especialistas, es mucho más frecuente de lo que llega a conocerse públicamente.
En diálogo con Veo Noticias, Soledad Martínez advirtió que muchas situaciones nunca llegan a los medios e incluso pueden no ser denunciadas debido a la vergüenza o el temor que atraviesan las víctimas.
“Lamentablemente es algo más común de lo que creemos”, sostuvo.
Como antecedente mencionó un caso ocurrido en San Jerónimo Sud, donde decenas de mujeres habrían sido víctimas de manipulación de fotografías por parte de un vecino. Según explicó Martínez, solamente una parte de las afectadas llegó finalmente a la instancia judicial.
“Hay que empezar a hablar del tema”
Frente a la pregunta sobre cómo prevenir estas situaciones, Martínez sostuvo que una de las principales herramientas es incorporar la violencia digital a las conversaciones dentro de las escuelas y las familias.
En ese sentido, destacó la reciente sanción en Santa Fe de la denominada Ley Ema, que establece herramientas para prevenir y abordar la violencia digital dentro del ámbito educativo.
La normativa alcanza a establecimientos públicos y privados y contempla, entre otras cuestiones, protocolos de actuación, preservación de evidencia, campañas de concientización y pautas para trabajar con las víctimas, las familias y la comunidad educativa.
Uno de los puntos centrales, remarcó Martínez, es evitar la revictimización.
El problema no termina cuando deja de circular una fotografía. Las consecuencias pueden trasladarse posteriormente al aula, los grupos de amigos y otros espacios compartidos por los adolescentes.
Qué pasa cuando una imagen falsa comienza a circular
Martínez explicó que actualmente existen diferentes herramientas de inteligencia artificial capaces de manipular fotografías y generar imágenes íntimas falsas.
Sin embargo, consideró que la discusión no debería concentrarse solamente en qué plataforma permite hacerlo, sino fundamentalmente en la conciencia sobre el daño que puede producirse sobre otra persona.
Además, advirtió sobre una característica especialmente compleja de la violencia digital: una vez que una imagen se comparte, resulta muy difícil garantizar que desaparezca completamente de internet.
“Cuando uno hace clic para enviar una imagen, es muy poco probable que se elimine totalmente ese rastro digital”, señaló.
Por eso, ante un episodio de estas características resulta fundamental preservar las pruebas antes de intentar eliminar el contenido, para que posteriormente puedan utilizarse en una eventual denuncia.
Qué herramientas legales existen
La especialista explicó que el marco legal todavía presenta desafíos frente a las nuevas modalidades de violencia generadas mediante inteligencia artificial.
Según indicó durante la entrevista, la creación o edición de una imagen de estas características no cuenta actualmente con una figura penal específica, al igual que determinadas conductas vinculadas con la difusión no consentida de contenido sexual.
Sin embargo, existen otras herramientas jurídicas que pueden entrar en juego dependiendo de las características particulares de cada caso.
Martínez mencionó la Ley provincial 14.297, conocida como Ley Chachi, que aborda desde el ámbito contravencional distintas formas de violencia digital.
También señaló que a nivel nacional existen iniciativas legislativas que buscan avanzar específicamente sobre la difusión no consentida de imágenes de contenido sexual.
La investigación también debe determinar quién recibe las imágenes
Otro punto que consideró fundamental es establecer qué ocurre después de la creación del material.
No es lo mismo, explicó, la manipulación de una fotografía que una eventual comercialización o circulación dentro de determinados espacios.
Por eso, sostuvo que debe investigarse quién genera las imágenes, quién las distribuye, si existe una venta y quiénes consumen ese contenido, especialmente cuando las víctimas son menores de edad.
Como ejemplo, recordó un caso registrado en la provincia de Buenos Aires en el que un adolescente habría manipulado imágenes de compañeras y luego comercializado paquetes de ese material a través de internet.
El desafío de prevenir antes de que el daño sea irreversible
Para Martínez, la aparición de nuevas herramientas tecnológicas obliga a que escuelas, familias y organismos públicos conozcan cómo actuar antes y después de un episodio de violencia digital.
Existen mecanismos para solicitar a diferentes plataformas la eliminación de contenidos, pero la especialista insistió en que no siempre es posible garantizar que una fotografía que ya fue compartida desaparezca definitivamente.
El caso de San Justo vuelve así a plantear un desafío que excede a la inteligencia artificial: la tecnología permite crear una imagen falsa cada vez más convincente, pero las consecuencias sobre la intimidad, la convivencia y la vida cotidiana de las víctimas son completamente reales.
