Nota publicada en el diario Perfil el 10-02-23
El incremento exponencial de los avances en inteligencia artificial y el abaratamiento de sus costos permiten que se creen videos de personas tan reales como los humanos.
La inteligencia artificial está en
primera plana y quizás continúe siendo así. La revolución tecnológica de estos
años la tendrá como estrella. No escapa de las discusiones cómo será el futuro
del trabajo. Los conductores podrían ser reemplazados por los vehículos
autónomos, los abogados por sistemas como DoNoyPay, y ChatGPT amenaza a muchas
otras profesiones. Lo que no podríamos imaginar es que las modelos también
verían amenazados sus trabajos, y las creadoras de contenido en redes como onlyfans deberán competir con la IA.
Si bien veníamos hablando de las
deepfake y como con tecnología se podían cambiar rostros, movimientos de labios
y posturas de algunos videos reales, el incremento exponencial de los avances
en inteligencia artificial y el abaratamiento de sus costos permiten que se
creen videos de personas tan reales como los humanos.
Sorprendentemente las cuatro chicas de la foto son creación de la inteligencia artificial, capaz de crear fotografías y videos. En este escenario, tecnologías como deep fakes, Dall-e, o Stable Diffusion están cada vez más accesibles para todos.
La discusión al conocerse la
noticia de las modelos de Onlyfans se centraba en que si los usuarios
consumirían ese tipo de contenido hiperrealista, y los usuarios afirmaban que
sí; incluso muchos sabiendo de la irrealidad de las imágenes.
Pero otro de los problemas que
podría aparecer, y que vengo alertando, es que la IA no tendría límites a la
hora de crear contenidos, con la consiguiente libertad de darle rienda suelta a
cualquier fantasía sexual, sadomasoquistas, sangrientas e incluso las ilícitas
como la pornografía infantil.
La discusión importante
Existe todavía la falsa creencia que
las tecnologías de inteligencia artificial son algo remoto o de acceso para
pocas personas, pero estaría ocurriendo lo contrario. Por ello, que ciertas
discusiones deben tenerse ahora, y no cuando sea demasiado tarde, como ocurrió
con la protección de los datos personales de los usuarios.
Unstable Diffusion es una empresa
que se define como un servidor dedicado a la creación e intercambio de NSFW [Not safe for work]
generados por IA, y que es usada para generar contenido pornográfico. En el
mismo sentido, DeepNude era una app que usaba la IA para eliminar la ropa de
fotografías de mujeres y recrear así falsos desnudos realistas, una herramienta
que su creador acabó cerrando tras una profunda polémica.
Estas cuestiones por el momento
son reguladas por los propios sitios o redes donde se comparte el contenido. Hace
ya algunos años que Pornhub o
Twitter comenzaron a filtrar y prohibir vídeos deepfake generados
por IA simulando personas famosas. Las primeras víctimas de videos fakes fueron Gal Gadot, Scarlett
Johansson o Taylor Swift protagonizando pornografía.
Porn Pen, un sitio que ofrece el
servicio de pornografía generada con inteligencia artificial, eliminó la
posibilidad de los usuarios de la escritura libre, y solo ofrece etiquetas
preestablecidas como opción de diseño, evitando así cuestiones ilegales o
contrarias a las políticas de la empresa.
Un antecedente
Cuando hablamos de discutir estos
temas, se trata justamente de brindarle a la justicia las herramientas para
punir conductas ilícitas, que bajo ningún punto de vista pueden quedar impunes.
En diciembre de 2022, desde España
nos llegó la noticia de que fue detenido en la provincia de Valladolid a
un hombre que utilizaba inteligencia artificial para crear material de abuso sexual infantil de
extrema dureza.
Durante el allanamiento, los
policías mencionaron que por primera vez encontraron material de abuso sexual
infantil creado mediante el uso de la inteligencia artificial (IA). Los
archivos, que causaron un gran impacto por su extrema dureza, representaban imágenes reales de niñas de muy
corta edad siendo violadas, por ejemplo. Según se supo de la
investigación, para la realización de los videos, fue utilizado un software
donde se describe en texto las imágenes deseadas, que luego son generadas en
imágenes.
España en su artículo 189 del
Código Penal, ha establecido con extrema amplitud las penas para el combate del
abuso infantil, pornografía y pedofilia.
Será
castigado con la pena de prisión de uno a cinco años:
a)
El que captare o utilizare a menores de edad o a personas con discapacidad
necesitadas de especial protección con fines o en espectáculos exhibicionistas
o pornográficos, tanto públicos como privados, o para elaborar cualquier clase
de material pornográfico, cualquiera que sea su soporte, o financiare
cualquiera de estas actividades o se lucrare con ellas.
b)
El que produjere, vendiere, distribuyere, exhibiere, ofreciere o facilitare la
producción, venta, difusión o exhibición por cualquier medio de pornografía
infantil o en cuya elaboración hayan sido utilizadas personas con discapacidad
necesitadas de especial protección, o lo poseyere para estos fines, aunque el
material tuviere su origen en el extranjero o fuere desconocido.
A
los efectos de este Título se considera pornografía infantil o en cuya
elaboración hayan sido utilizadas personas con discapacidad necesitadas de
especial protección:
a)
Todo material que represente de manera visual a un menor o una persona con
discapacidad necesitada de especial protección participando en una conducta
sexualmente explícita, real o simulada.
b)
Toda representación de los órganos sexuales de un menor o persona con
discapacidad necesitada de especial protección con fines principalmente
sexuales.
c)
Todo material que represente de forma visual a una persona que parezca ser un
menor participando en una conducta sexualmente explícita, real o simulada, o
cualquier representación de los órganos sexuales de una persona que parezca ser
un menor, con fines principalmente sexuales, salvo que la persona que parezca
ser un menor resulte tener en realidad dieciocho años o más en el momento de
obtenerse las imágenes.
d)
Imágenes realistas de un menor participando en una conducta sexualmente
explícita o imágenes realistas de los órganos sexuales de un menor, con fines
principalmente sexuales.
Para concluir, creo que el asunto
es serio y que no debiéramos dejarlo en manos de las empresas privadas, con sus
políticas y condiciones de uso arbitrarias. Se hace necesaria una discusión
seria, rápida y efectiva para que no existan dudas de la ilicitud de ciertos
actos, pero también para establecer las pautas de otros actos disvaliosos
también, como por ejemplo la cosificación de la mujer e hipersexualización de
avatares.