Microsoft ha confirmado que las fotos e instrucciones que subimos a Copilot para editar imágenes pueden usarse para «mejorar nuestros productos y hacer cumplir nuestro código de conducta». Detrás de esa frase hay cientos de contratistas humanos que reciben las imágenes originales sin censurar, con las caras visibles, para decidir qué edición de la IA se ajusta mejor al prompt de cada usuario.
Os explicamos cómo funciona: cuando subimos una foto para editarla, Copilot envía a un revisor humano la imagen original, el prompt y dos versiones retocadas, para que elija cuál cumple mejor la instrucción. Es una tarea de calidad técnica, no de moderación. «Las caras siempre aparecen sin censurar, y muchos de los prompts son de naturaleza sexual y de consentimiento dudoso», declaró uno de los revisores, que pidió el anonimato porque su contrato le prohíbe hablar con la prensa.
Contratistas sin filtro ante prompts íntimos
Las guías internas no dejan margen para la duda moral: piden a los revisores que confíen en sus instintos y que, cuando duden, se queden con la primera impresión. La tarea se limita a comparar qué edición cumple mejor el prompt, sin obligación de frenar el trabajo ni de reportar contenido problemático más allá de un aviso interno puntual.
Entre los ejemplos que han trascendido figuran peticiones para acortar faldas, agrandar pechos, colocar a personas en posturas sexuales y series completas de fotos upskirt, además de prompts pro-anorexia y un lote de ocho imágenes bajo la falda de alguien, que un revisor marcó pidiendo una etiqueta de «contenido inseguro». Uno de ellos preguntó en el tablón interno de la empresa contratada: «¿Quién está escribiendo estos prompts y quién decide que generar porno es lo que Copilot hace ahora?». Al menos una de las compañías que emplea a estos revisores es Prolific, que no ha respondido a las peticiones de comentario.
El relanzamiento de Copilot y su impacto
El hallazgo llega apenas unos días después de que Microsoft presentara, el 25 de septiembre de 2026, una reformulación completa de Copilot: un hub Home que integra Cowork y Office, un apartado Code para crear aplicaciones con instrucciones en lenguaje natural, y Autopilot (antes Scout), su primer agente always-on. Satya Nadella, CEO de la compañía, comparó la llegada de estas herramientas al puesto de trabajo con la irrupción del PC.
Jacob Andreou, vicepresidente ejecutivo de Copilot, señaló que el riesgo de IA que más preocupa a Microsoft es la difusión: expandir la tecnología masivamente por la economía. También rechazó los reparos de seguridad de Anthropic sobre trasladar documentos confidenciales a dispositivos locales. El anuncio disparó la cotización de Microsoft cerca de un 4% y llevó a Goldman Sachs a proyectar más de 35 dólares por acción de beneficio en el ejercicio fiscal 2030. Las suscripciones premium del asistente alcanzaron los 30 millones, diez millones más en tres meses: el 3,3% de los 450 millones de suscriptores comerciales de Microsoft 365.
La zona gris del AI Act y el caso de OpenAI
La Comisión Europea empezó a exigir el cumplimiento del AI Act el 2 de agosto de 2026: los chatbots deben identificarse como sistemas automatizados, los deepfakes necesitan etiqueta visible y el contenido generado por una máquina debe llevar marcas legibles por otros sistemas, con sanciones de hasta 15 millones de euros o el 3% de la facturación mundial.
Las prohibiciones explícitas para contenido sexual no consentido, incluidas en el paquete de enmiendas AI Omnibus, no entrarán en vigor hasta el 2 de diciembre de 2026, lo que deja en zona gris el doble flujo de datos de este proceso: la foto del usuario, con la cara sin censurar, y el prompt, que puede revelar la intención de quien lo escribió.
El caso de Copilot no es aislado: vemos un patrón parecido en OpenAI, donde un programa interno llamado Project Lily hace que cientos de contratistas lean conversaciones reales de ChatGPT, las resuman y las califiquen del uno al siete. Una demanda colectiva presentada en septiembre en California acusa a la compañía de no advertir con claridad que una persona podía leer esas conversaciones.