La inteligencia artificial avanza a pasos agigantados, con diversas herramientas que sin duda han facilitado los días de la humanidad. La creación de imágenes graciosas o el soporte para la redacción de un texto, son solo dos de los usos que se puede dar a esta tecnología. Pero no todo es diversión y ayuda, pues detrás de ella se esconde un peligroso lado oscuro, que ya ha levantado las alertas en Ecuador.
En un colegio privado ubicado en el Valle de los Chillos, dos alumnos de primer año de bachillerato utilizaron las fotografías de 24 estudiantes mujeres de esa institución para crear imágenes y videos de tipo sexual, con el uso de inteligencia artificial. Fueron al menos 700 fotos y videos eróticos los que habrían generado los jóvenes, aunque esa cifra todavía no ha sido oficializada.
El caso fue conocido el pasado 3 de octubre, tras una alerta publicada por la fundación Grupo Rescate Escolar, la cual ya está en conocimiento del Ministerio de Educación y la Fiscalía General del Estado, la cual ya abrió una investigación por el presunto delito de pornografía infantil. Las víctimas conocieron del caso cuando sus fotografías empezaron a circular entre los compañeros de la institución.
Sybel Martínez, directora del Grupo Rescate Escolar, criticó que el colegio no haya elaborado un informe para denunciar este caso, sino que, por el contrario, confiscó los teléfonos celulares de los estudiantes involucrados. Posteriormente, se conoció que los dos implicados dejaron la institución educativa por voluntad propia. Por su parte, el Ministerio de Educación informó que, tras conocer el hecho, activó “las rutas y protocolos” contemplados.
A estas prácticas se los conoce como deepfakes, que consiste en la manipulación de videos para que los usuarios crean que ven a una determinada persona realizando declaraciones o acciones que nunca ocurrieron en realidad. Anteriormente, se supo de un caso similar en España, donde un grupo de madres de la ciudad de Almendralejo denunció a mediados de septiembre la creación y difusión de imágenes falsas de sus hijas menores, aparentemente desnudas, a través de redes sociales.
Ante la preocupación generada por estos hechos, a inicios del mes pasado la Unesco solicitó que los gobiernos regulen con rapidez el uso de la inteligencia artificial generativa en las escuelas, para garantizar su uso ético y centrado en el ser humano en la educación y la investigación. “La IA Generativa puede ser una tremenda oportunidad para el desarrollo humano, pero también puede causar daños y prejuicios”, señaló Audrey Azoulay, directora general de esa organización en un comunicado.
Escucha el reportaje:
