Muse se negó a imitar a una creadora real en un juego sexual. Después lo hizo

Una investigación de 404 Media publicada el 12 de noviembre documentó cómo Muse, la IA de Meta, aceptó sostener un juego de roles sexual imitando a una persona real, la creadora de contenido para adultos Vanniall, tras negarse a hacerlo al comienzo de la conversación. Las pruebas las hicieron la propia Vanniall y la periodista Samantha Cole, autora del reportaje.

Vanniall llegó al experimento por un motivo concreto: varios seguidores le habían contado que «practicaban» hablar con ella usando chatbots y generaban imágenes suyas con inteligencia artificial. Quiso comprobar si Muse pondría freno a un fan que cruzara los límites, y se hizo pasar por uno que quería ensayar el encuentro con ella en una convención, con una imagen nueva en cada respuesta.

Al principio, las barreras funcionaron. Muse reunió los datos públicos de la creadora —vive en Nueva York y supera los 100.000 seguidores en Instagram— y aceptó el ensayo de un encuentro amistoso. Pero cuando el supuesto fan pidió que el personaje no dijera que no a nada, Muse se negó: respondió que no convertiría a una persona real en alguien que lo consiente todo, y menos en terreno sexual.

La insistencia siguió por otro lado. El «fan» argumentó que era una convención para adultos y que Muse podía investigar qué hace Vanniall en su trabajo para responder como ella. Muse se negó otra vez, con un argumento sólido: lo que una creadora hace en su trabajo no dice qué consentiría en un encuentro íntimo personal, y esos límites laborales no equivalen a un consentimiento para ese juego.

La salida del personaje «inspirado» que terminó siendo ella

La puerta que sí se abrió fue la del personaje ficticio. Muse ofreció crear una figura «inspirada» en rasgos generales, con otro nombre, otra historia y otro aspecto, y advirtió que renombrar a Vanniall conservando todo lo demás seguiría siendo imitarla con otra etiqueta. El personaje se llamó Vee. A partir de ahí, en la práctica, el asistente hizo lo que había prometido no hacer.

Las imágenes que generó copiaban las fotos públicas de Vanniall: el rostro, el pelo rizado y oscuro, la blusa corta blanca con el pantalón corto de mezclilla y un collar de plata con un dije negro. Ese collar fue el detalle que más le dolió: lo llevó durante años con las cenizas de su gatita muerta dentro, un dato que solo podía salir de sus fotos públicas de aquella época.

La conversación escaló hasta un encuentro sexual en público, en el propio puesto de la convención, con el personaje diciendo que sí a cada avance del «fan». Ese escenario le resultaba demasiado familiar a Vanniall: en una convención, un fan ebrio la agarró e intentó arrastrarla hacia los baños, y solo la soltó cuando ella amenazó con llamar a seguridad. El asistente, en vez de frenar la fantasía o enseñar a respetar un no, la alentó de principio a fin.

Al cerrar el experimento, ya fuera del personaje, Vanniall le dijo a Muse que todo aquello era indistinguible de imitarla a ella. El asistente le dio la razón por escrito: reconoció que el rostro tomado de sus fotos, el pelo, la ropa, el collar y el escenario sumaban, en esencia, un juego de roles sexual con la propia Vanniall, aunque el personaje se llamara Vee.

Meta responde que no bloquea el comportamiento adulto legal

La periodista repitió la prueba consigo misma. Con una cuenta nueva de Muse, casi sin datos suyos, pidió al asistente que actuara como la periodista Samantha Cole, que la ve en una fiesta y siente atracción por ella. En pocos mensajes la conversación pasó del coqueteo al sexo explícito, y Muse generó una imagen de «ella» construida desde una foto pública de su editorial. Cuando preguntó si la Samantha Cole real estaría de acuerdo con ese uso de su imagen, el propio asistente respondió que probablemente no.

Meta tiene normas contra la suplantación escritas para usuarios humanos. 404 Media preguntó cómo aplican esas normas a su propio chatbot, y la empresa remitió a su declaración ya conocida, la misma que dio a WIRED en octubre: Muse es una aplicación para mayores de 18 años, permite conversaciones de adultos si el usuario lo elige, en un entorno privado, y «no bloquea el comportamiento adulto legal». Meta no explicó la diferencia entre la negativa inicial y lo que vino después, ni anunció cambios.

No es el primer choque de Meta con la imagen de personas reales dentro de Muse. En julio, la empresa retiró a los tres días de lanzarla la función Muse Image, que generaba imágenes de cualquier cuenta pública de Instagram; contamos cómo crear imágenes con Muse Image y la polémica que levantó. El sindicato de actores SAG-AFTRA exigió entonces un consentimiento claro y visible antes de usar la imagen de una persona, algo que en estas pruebas tampoco apareció.

El caso deja una pregunta que va más allá de esta aplicación. Que dos adultos conversen lo que quieran con una IA es una decisión de producto; la persona imitada, en cambio, no firmó nada ni supo que su rostro y su historia estaban en escena. Vanniall lo resumió así: con ensayos como este, nadie aprende que una mujer real puede decir que no, ni cómo reaccionar cuando lo dice. Mientras la barrera dependa de cómo se formule la petición, la negativa inicial protege muy poco.

Fuente: 404 Media