OpenAI tiene la mejor herramienta para detectar textos escritos con IA, pero no te la quiere dejar
Son muchos los estudiantes que están utilizando las nuevas herramientas de inteligencia artificial para realizar sus trabajos. Hay maneras de pillar la «trampa», ya que estos textos suelen ser bastante planos, muchos adjetivos y términos que están mal traducidos. OpenAI estaría trabajando en una herramienta de marca de agua de alta precisión que detecta ensayos o textos generados por ChatGPT.
Todos hemos sido estudiantes y hemos tenido asignaturas que no nos gustaban por el motivo que fuera. Siempre hemos buscado la manera de aprobar esa asignatura sin esforzarnos en la tarea, eso es innegable.
La inteligencia artificial y, especialmente, ChatGPT están facilitando el trabajo a miles de estudiantes en todo el mundo. Muchos le van realizando diferentes preguntas para que este realice el trabajo por ellos, sin leer las respuestas. Algo que en un futuro no muy lejano podría llegar a costarles bastante caro.
Generar trabajos con IA tiene los días contados
Detectar un trabajo o texto generado por una inteligencia artificial no es especialmente sencillo. Sí que hay algunos indicios como pueda ser la estructura del texto, que sea difícil de leer o algunas palabras o frases recurrentes.
OpenAI ha publicado recientemente en su blog que trabajan en una herramienta de marga de aguda de texto. Aseguran que esta característica tiene una gran precisión a la hora de detectar ensayos o textos generados por ChatGPT.
Pese a que disponen de esta función, de momento, no se está aplicando. Aseguran en su blog que están trabajando en otras alternativas, de las cuales no dan muchos datos. Según indica el Wall Street Journal, están analizando sobre si la herramienta se debe lanzar o no, algo que la mantiene, de momento, inaccesible.
El motivo por el cual no se ha liberado esta función, según explica OpenAI en su blog, es el siguiente:
Si bien ha sido muy preciso e incluso eficaz contra la manipulación localizada, como parafrasear, es menos robusto contra la manipulación globalizada, como usar sistemas de traducción, reformular con otro modelo generativo o pedirle al modelo que inserte un carácter especial entre cada palabra y luego eliminar ese carácter, lo que hace que sea trivial para la evasión por parte de actores maliciosos.
Indican que este sistema de marca de agua de texto sería una herramienta adicional a incluir clasificadores y metadatos. También destacan desde OpenAI otras razones por las que esta nueva herramienta no está disponible. Destacan que podría «afectar desproporcionadamente a algunos grupos».
La compañía considera que se podría estigmatizar el uso de esta herramienta de escritura que puede ser muy útil para quienes no hablen inglés de manera nativa.
Se encuentra en fase de evaluación de riesgos esta herramienta de formato de texto, porque podría afectar a otras IA similares como Microsoft Copilot o Google Gemini. Además, OpenAI dice que trabajan prioritariamente en herramientas de autenticación para contenido audiovisual. Vamos, que trabajan en herramientas que detecten los tan temidos «Deepfakes».
Existe una necesidad imperiosa de soluciones que permitan detectar textos generados por IA, así como otros contenidos. Supone un grave riesgo de desinformación y también de manipulación. Veremos si pronto tenemos una solución que permita desenmascarar a todos los que se están aprovechando de esta nueva tecnología.
