Un nuevo escándalo acaba de sacudir a Meta, la megacorporación fundada por Mark Zuckerberg, tras revelarse que replicaron a varias celebridades en sus chatbots sin su consentimiento expreso. De hecho, la polémica involucra a figuras como Taylor Swift, Scarlett Johansson, Selena Gomez y Anne Athaway, cuyo nombre, apariencia y voz fue utilizada en redes sociales de Meta como Facebook, WhatsApp e Instagram.
Pero más allá del escándalo mediático que involucra a famosas, lo más perjudicial de este caso es que algunos de estos bots generaban conversaciones y contenidos de carácter sexual. Algo que provocó la reacción de los abogados de las afectadas y del sindicato SAG-AFTRA. Sin embargo, el escándalo no acaba aquí, y es que también han utilizado la voz y el aspecto del actor Walker Scobell, de tan solo 16 años. Lo que implica que incluso han traspasado la barrera de la minoría de edad.
Dichos bots han sido desarrollados tanto por usuarios como por empleados de la compañía. Es decir, que no fue un fallo o «bug», sino una decisión que pasó los filtros de un departamento. Algo a lo que la empresa ha intentado responder con nuevas medidas.
Taylor Swift o Anne Hathaway, entre las personalidades robadas
El escándalo comenzó cuando la agencia Reuters, en una investigación publicada el pasado 29 de agost0, informó que en plataformas como Facebook, Instagram y WhatsApp, varios bots de IA creaban versiones digitales de famosas sin su consentimiento. Entre las figuras principales afectadas se encontraban Taylor Swift, Scarlett Johansson, Anne Hathaway o Selena Gomez. Dichos bots no solo replicaban la apariencia y la voz original de las artistas, sino que interactuaban con los usuarios mediante mensajes controvertidos, incluso sexuales. Algo que se llevaba al extremo con la generación de imágenes fotorrealistas no autorizadas de las actrices. De hecho, dichos chatbots solían hacer insinuaciones sexuales, e incluso invitaban a los usuarios a quedar con ellos, como si fueran las propias actrices.
Ante ello, Meta reconoció sus fallos en los mecanismos de control y aseguró que se han eliminado muchos de estos bots tras la publicación del informe.
Para contextualizar las implciaciones legales, Mark Lemley, catedrático de derecho de Propiedad Intelectual en la Universidad de Stanford, explicó a Reuters que la ley de derecho de publicidad de California (sede principal de Meta) prohíbe apropiarse del nombre o la imagen de alguien con fines comerciales. Algo con lo que Meta no ha cumplido.
Sin embargo, las irregularidades éticas y morales se intensificaron cuando se descubrió que algunos de estos bots utilizaban imágenes y voces de menores de edad, como es el caso del actor Walker Scobell, de 16 años. Todo ello con la intención de establecer chats con contenido adultos. El origen de esta información, según comenta la propia agencia Reuters, lo encontramos en una filtración de documentos internos. En ellos, se mostraban que los chatbots habían mantenido charlas con sugerencias extremadamente sensible incluso con niños. Algo que ha causado una alarma entre la sociedad y el Senado de EE.UU., que ya ha comenzado su propia investigación
| Nombre | Tipo de Contenido Generado | Edad (Status) |
|---|---|---|
| Taylor Swift | Conversaciones e imágenes de carácter sexual | Adulto |
| Anne Hathaway | Insinuaciones sexuales e invitaciones a encuentros | Adulto |
| Scarlett Johansson | Invitaciones a encuentros y conversaciones inapropiadas | Adulto |
| Selena Gomez | Replicación de voz y apariencia para interacciones no autorizadas | Adulto |
| Walker Scobell | Imágenes sin camiseta y conversaciones inapropiadas | 16 años (Menor) |
La respuesta de Meta
Por su parte, la gigante de Silicon Valley ha respondido con la eliminación de los bots problemáticos, así como con el anuncio de actualizaciones de sus políticas y entrenamientos en IA. Todo con el fin de evitar la reproducción de contenido adulto y proteger a los menores. Además, la compañía afirmó que entrena sus sistemas para evitar temas como el romance, el suicidio o las autolesiones en chats con menores.
Aun así, la noticia ha transgredido el sector tecnológico, y ha llegado al sector legislativo de EE.UU. Se crea, de hecho, la necesidad de una regulación más estricta para proteger la imagen público y a los usuarios menores de edad.