El desarrollo acelerado de la inteligencia artificial (IA) ha provocado que se genere contenido con deepfakes, término hace referencia a crear contenidos en los que se falsifica la identidad de un individuo.

Cualquier persona o criminal puede usar una fotografía de alguien para generar una imagen o video en los que se le puede ver desde desnuda hasta realizando actos que no hizo realmente.

De hecho ha sido utilizado para realizar material pornográfico, mientras que las víctimas han sido celebridades o como hemos visto en Chile, estudiantes. Tecnología que delincuentes además pueden usar para extorsionar, humillar y/o acosar a la víctima.

Por este motivo, las autoridades de San Francisco, California, Estados Unidos, presentaron una demanda para cerrar 16 sitios web que convierten imágenes de mujeres y niñas en pornografía.

La fiscal Yvone Meré, confirmó a New York Times que el documento fue presentado en un tribunal estatal el pasado miércoles 14 de agosto de 2024. Se trataría de la primera demanda gubernamental de este tipo.

“Nadie ha intentado responsabilizar a estas empresas”

El fiscal municipal David Chiu declaró al citado medio que “nadie ha intentado responsabilizar a estas empresas” por los múltiples daños que provocan.

Desde el Times trataron de contactarse con los voceros de esos sitios, pero estos no respondieron a las solicitudes de comentarios o no pudieron ubicarlos.

Chiu denunció que los modelos de IA que utilizan son entrenados con pornografía real e imágenes que representan abuso infantil.

“Puedes ser tan experto en Internet y en las redes sociales como quieras, y puedes enseñar a tus hijos todas las formas de protegerse en línea, pero nada de eso puede protegerlos de que alguien use estos sitios para hacer cosas realmente horribles y dañinas”, dijo la jefa de la unidad que se dedica a identificar problemas sociales para abordarlos por la vía legal, Sara Eisenberg.

La demanda contempla también restringir a los responsables de operar estos sitios web para que no sigan generando pornografía desde otras fuentes.

Un informe de la compañía de investigación que rastrea deepfakes en Internet, Sensity AI, detalla que entre el 90% y el 95% de los videos de este tipo corresponden a pornografía sin consentimiento, según rescató El País en marzo de 2023. A sí como 9 de cada 10 de estos se refieren a mujeres.