Adiós a los trolls: YouTube empieza a usar una IA para banear a los usuarios tóxicos

Adiós a los trolls: YouTube empieza a usar una IA para banear a los usuarios tóxicos

David Onieva

Uno de los principales problemas de las diferentes redes sociales y plataformas como YouTube son los comentarios ofensivos y tóxicos. Ahora el portal streaming de vídeo propiedad de Google lanza una nueva función para acabar con los mismos.

Esto es algo que viene sucediendo desde hace muchos años y que se hace extensible a multitud de plataformas de internet que permiten la publicación de comentarios. Los usuarios, por lo menos parte de ellos, utilizan esta función para dar rienda suelta su odio y rabia. Esto es algo que llevan a cabo a través de comentarios tóxicos no deseados por la plataforma ni por el resto, pero que se siguen haciendo públicos.

Los máximos responsables de sitios web como el popular YouTube quieran acabar con todo ello lo antes posible. Para lograrlo implementan ciertas medidas que hemos podido ir viendo a lo largo de los últimos años. Si nos centramos en el mencionado sitio web de vídeos streaming, ahora se acaba de lanzar una nueva función muy interesante. Hay que tener en consideración que estos comentarios tóxicos y de odio en YouTube han sido un quebradero de cabeza para la empresa. Además, esto se hace extensible tanto a los creadores de contenidos como a los visitantes del sitio web.

Se ha intentado poner freno a esta situación con funciones que se han lanzado para intentar acabar con todo ello. Pues bien, ahora el servicio de streaming introduce una nueva característica más radical contra los usuarios que escriban este tipo de textos ofensivos. Para que os hagáis una idea de lo que os hablamos claro mencionar que la plataforma avisará de forma más clara a esas personas que los publiquen y tomará medidas.

En concreto la plataforma streaming de vídeos ahora enviará una notificación a las personas cuyos comentarios abusivos hayan sido eliminados por infringir las normas de la web.

Así bloqueará YouTube los comentarios ofensivos

Eso sí, en el caso de recibir la notificación y se sigan publicando comentarios abusivos, se tomarán medidas más estrictas. De hecho, el servicio prohibirá a ese usuario publicar más comentarios durante las siguientes 24 horas. Es más, la empresa responsable nos cuenta que ha probado esta función antes de ponerla en marcha a partir de ahora. Así, gracias a estas pruebas han podido comprobar de primera mano que las notificaciones y los tiempos de espera han dado buenos resultados.

comentarios youtube

Hay que tener en consideración que la advertencia previa está disponible en inglés y español, aunque se espera que todo ello se vaya extendiendo a más idiomas. Es evidente que este movimiento se llevará a cabo con el fin de proteger a los creadores de contenidos y a sus visitantes. De este modo, aquellos que intentan manchar negativamente la comunidad a través de sus comentarios, serán sancionados del modo descrito. Por tanto, esta función ofrecerá una notificación clara y sanción a los que se les hayan eliminado comentarios por infringir las políticas de uso y sean reincidentes.

Al mismo tiempo en el caso de que algún usuario considere que su comentario se ha eliminado injustamente, lo podrá notificar. Lo que aún no sabemos es si YouTube restablecerá los mismos tras estudiar las quejas. A todo ello debemos sumarle que la plataforma no para de trabajar para mejorar sus sistemas de detección de comentarios maliciosos usando la IA.

¡Sé el primero en comentar!