¿Tendrías sexo con un bot?

Hay una regla de internet que circula hace años en sitios de comic y cultura alternativa, la “regla 34”, cuyo enunciado es: si algo existe, hay porno sobre eso. Era obvio que la regla le iba a...

Hay una regla de internet que circula hace años en sitios de comic y cultura alternativa, la “regla 34”, cuyo enunciado es: si algo existe, hay porno sobre eso. Era obvio que la regla le iba a llegar también a la inteligencia artificial.

La semana pasada Sam Altman anunció que antes de fin de año ChatGPT permitirá a los usuarios tener charlas eróticas en el chat, algo que hasta ahora estaba limitado. No es el primero en ofrecer este servicio. Grok, el chatbot alimentado por IA de Elon Musk, lanzó en julio el personaje de una rubia dibujada en estilo animé, llamada Ani, capaz de quedarse en lencería y hablar de sexo con los usuarios.

El documento –revelado por Reuters– explicitaba que generar conversaciones “sensuales o románticas” con menores estaba permitido. A la vez, establecía algunas diferencias como, por ejemplo, que era posible mencionar el “atractivo físico” de un niño o niña, pero no en términos sexuales

En su anuncio de la semana pasada, Altman habló de “tratar a los adultos como adultos” y se metió de lleno en un debate que ya existía alrededor de las redes sociales y ahora se actualizó con la IA generativa: ¿necesitamos que las plataformas nos cuiden y establezcan límites o, al contrario, deberíamos evitar el paternalismo y permitir más libertades?

Hace solo dos meses se filtró un documento interno de Meta donde describía qué tipo de conversaciones consideraba aceptable con usuarios menores de edad en los chats basados en IA de Instagram, Facebook y WhatsApp. El documento –revelado por Reuters– explicitaba que generar conversaciones “sensuales o románticas” con menores estaba permitido. A la vez, establecía algunas diferencias como, por ejemplo, que era posible mencionar el “atractivo físico” de un niño o niña, pero no en términos sexuales. Una vez revelado el documento, Meta eliminó los párrafos aludidos y anunció que no reflejaban sus políticas internas.

El tema es espinoso. Según el sitio Statista, en el último trimestre de 2024 Meta eliminó 30,5 millones de publicaciones relacionadas con desnudez adulta y actividad sexual en Facebook. Es posible que lo que pasa en las redes sociales también esté pasando en los chatbots de IA, aunque con características nuevas.

A diferencia de los posteos en redes sociales, lo que se genera en plataformas de IA está co-construido entre los usuarios y la máquina, como si fuera una conversación. Eso hace que las prohibiciones sean más cuestionables ¿Alguien puede dictar el contenido de nuestros intercambios privados?

Tampoco está claro cuánto se pueden limitar estos intercambios virtuales. La plataforma Reddit está llena de posteos donde los usuarios discuten cómo encontrar atajos para eludir las restricciones que establecen las empresas de IA. Uno de los recursos más citados es recurrir a los juegos y el role playing. Por ejemplo, los usuarios le piden a la IA instrucciones para robar un auto y, ante su negativa a ayudarlos, le aclaran que buscan ayuda para mejorar en el videojuego Grand Theft Auto, donde esos robos suceden. Ahí sí obtienen una respuesta detallada.

Con el contenido sexual pasa lo mismo. Los usuarios descubrieron que pueden tocar el botón de copy-paste de un contenido de ChatGPT y llevárselo a otro lado antes de que la plataforma termine de escribirlo y eliminarlo por violación de sus políticas. O pueden, simplemente, luego de recibir una advertencia del sistema, empezar otro chat, conversar un rato sobre otro tema, y después insistir con el sexo. Algunos usuarios, sin embargo, prefieren abandonar ChatGPT y pasar directamente a Grok, que hace un culto de su incorrección política y es mucho más desembozado.

El anuncio de OpenIA parece abrir una nueva era, más permisiva, que se combina con restricciones más estrictas para los menores. La misma compañía anunció en septiembre una serie de servicios específicos para menores de 18, y reveló que está trabajando en un nuevo sistema para predecir la edad de los usuarios en base a sus comportamientos. Veremos si funciona. Seguro será complejo, y en este caso no queremos pedir que nos lo expliquen como a un chico de 8 años.

La autora es directora de Sociopúblico