Foto: ElTrecetv

Una foto falsa, un daño real. La violencia detrás de la inteligencia artificial

El caso de un colegio de Lomas de Zamora, donde estudiantes fueron denunciados por crear y difundir imágenes sexuales falsas de sus compañeras, reabre el debate sobre los límites de la tecnología, el consentimiento y la responsabilidad de las instituciones educativas.

Por: Candela Palomeque estudiante de 4° de la Licenciatura en Relaciones Públicas
Foto: ElTrecetv
Foto: ElTrecetv

La inteligencia artificial llegó para facilitar tareas, transformar profesiones y ofrecer posibilidades que hasta hace algunos años parecían imposibles. Sin embargo, también abrió las puertas a nuevas formas de violencia. El pasado 7 de octubre, el Colegio Modelo Lomas, ubicado en Lomas de Zamora, quedó en el centro de la polémica después de que se denunciara que un grupo de alumnos había utilizado herramientas de inteligencia artificial para generar imágenes de sus compañeras desnudas, sin su consentimiento, y difundirlas a través de distintas plataformas digitales.

Según la información conocida durante la investigación, se identificaron 45 alumnas afectadas y cuatro adolescentes quedaron bajo investigación judicial. Las familias denunciaron, además, que las imágenes habrían sido comercializadas en sitios de contenido pornográfico. La situación provocó manifestaciones frente al establecimiento y fuertes cuestionamientos hacia las autoridades escolares por su respuesta inicial.

Este tipo de contenido, conocido como deepfake, permite manipular imágenes mediante inteligencia artificial hasta conseguir resultados aparentemente auténticos. Aunque las fotografías sean falsas, las consecuencias para quienes aparecen representadas pueden ser completamente reales: vergüenza, angustia, exposición pública y vulneración de su intimidad.

Lo preocupante es que ya no resulta necesario fotografiar a una persona desnuda para exponerla sexualmente. Una simple imagen obtenida de una red social puede convertirse en material utilizado para humillar, acosar o comercializar la identidad de alguien. De esta manera, el consentimiento parece perder importancia frente a una tecnología capaz de fabricar situaciones que nunca existieron.

¿Quién se hace responsable?

El caso también puso bajo la lupa el papel de las instituciones educativas. Las familias cuestionaron que no se les hubiera informado oportunamente sobre lo sucedido, mientras que la Justicia avanzó con allanamientos y medidas de protección para las estudiantes. Pero el problema excede a un colegio ¿Están las escuelas preparadas para enfrentar formas de violencia que evolucionan tan rápidamente como la tecnología?

En Argentina, la Ley Olimpia, sancionada en 2023, reconoce la violencia digital contra las mujeres e incluye la difusión no consentida de material íntimo real o manipulado. Sin embargo, la existencia de herramientas legales no reemplaza la necesidad de prevención, educación digital y acompañamiento a las víctimas.

El episodio de Lomas de Zamora deja una reflexión incómoda. Mientras la sociedad debate hasta dónde puede llegar la inteligencia artificial, quizás también debería preguntarse hasta dónde está dispuesta a permitir que llegue el comportamiento humano. Porque detrás de cada imagen manipulada no hay solamente una herramienta tecnológica, hay una decisión, una responsabilidad y una persona cuyos derechos fueron vulnerados.