“La IA está mejorando en la generación de pornografía. Puede que no estemos preparados para las consecuencias”. Ese es el titular de un nuevo artículo del portal TechCrunch que aborda el lanzamiento de una plataforma web utilizada para crear imágenes de desnudos femeninos.

Una propuesta que sigue la tendencia de la generación automatizada de imágenes por inteligencia artificial realizadas por plataformas como DALL-E de la compañía OpenIA.

El sitio en cuestión se llama Porn Pen y a grandes rasgos permite generar imágenes automatizadas a partir de una selección realizada por cada usuario.

Cuerpos que no existen

A diferencia de DALL-E, que permite escribir texto para generar las creaciones por IA, esta nueva plataforma permite elegir diferentes etiquetas para confeccionar sus resultados.

Por ejemplo, para la base de una imagen se permite elegir entre etiquetas como “modelo”, “celebridad”, “atleta” o “milf”, para luego elegir características del cuerpo, la etnia, el estilo de la foto (incluyendo uno anime) o la locación, entre otras.

Una persona que afirma ser el creador de la plataforma explicó que el funcionamiento se da así para evitar dar pie a la creación de imágenes dañinas. “Eliminé explícitamente la capacidad de especificar texto personalizado para evitar que se generen imágenes dañinas. Se agregarán nuevas etiquetas una vez que el algoritmo de ingeniería rápida se ajuste aún más”, planteó.

Obviamente en toda esa generación automática se generan errores. “En la fuente de imágenes generadas por el usuario, algunos espejos en realidad no reflejan a una persona, pero, por supuesto, estas modelos no son personas en absoluto. Porn Pen funciona como el sitio ‘Esta persona no existe’, solo que es NSFW”, explican en TechCrunch.

Otros tipos de errores también se generan en la creación automatizado, agregando más extremidades, generando poses imposibles e inclusive agregando más pezones de los que deberían existir. El siguiente es un ejemplo:

En esa línea, Os Keyes, un experto en filosofía consultado por TechCrunch, planteó que era “inevitable” que surgiese un portal de este tipo tras la repercusión de DALL-E. “Pero sigue siendo deprimente cómo tanto las opciones como los valores predeterminados replican una mirada muy heteronormativa y masculina”, recalcó.

Actualmente en funcionamiento, la plataforma de PornPen genera alrededor de 20 imágenes creadas por usuarios cada 30 segundos.