La plataforma de vídeo más grande del mundo, YouTube, se enfrena a una crisis de seguridad inesperada en su sistema de moderación. Al parecer, un fallo crítico permite que los usuarios, incluso, sin iniciar sesión visualicen imágenes de contenido pornografía explicita en las fotos de perfil de ciertos canales.
Este problema de seguridad compromete la integridad de la plataforma en dispositivo móviles y Tv, donde el acceso es completamente libre para menores. Aunque la empresa aplica una censura estricta en los vídeos, parece que el algoritmo de detección de imágenes no actúa con la misma eficacia.
Fallo de moderación en la seguridad de YouTube
Este problema ha salido a la luz tras diversas denuncias en foros especializados como Reddit, en donde se demostró la vulnerabilidad de YouTube. Al realizar búsquedas específicas con los términos: «XXXXX», el buscador de la plataforma muestra resultados de canales con imágenes explicitas sin ningún tipo de censura previa.
Es completamente preocupante que estos perfiles logren saltarse los filtros utilizando técnicas de diseño sencillas para engañar a la IA. A diferencia de los vídeos, que pasan por un escaneo bastante exhaustivo, las imágenes de perfil del usuario parecen estar en un punto ciego del sistema de protección.
YouTube es la mayor plataforma de contenido de streaming del mundo, por encima de Netflix, incluso en países como España. Su gratuidad es parte de ese éxito.
Un riesgo latente para los menores de edad
Este problema reside en que el usuario no es necesario que este autenticado con una cuenta de Google para toparse con estas imágenes. Al ser una plataforma de acceso público, cualquier niño con una tablet o Tv inteligente pueden quedar expuestos a este material para adultos de forma accidental.
Aunque Google suele ser implacable con los creadores de contenido que infringen sus normas, este error en la gestión de moderación automática refleja una grieta preocupante. Por su parte, la comunidad exige que el filtrad de contenido visual se iguale a la rigurosidad que se aplica actualmente en los videos.
En la actualidad, se ha conocido que la plataforma esta probando herramientas para difuminar fotos de perfil que contengan matices eróticos, sin embargo, esta medida no soluciona el problema de raíz. El contenido reportado no es erótico ni mucho menos artístico, sino pornografía sin censura, la cual debería ser eliminada de forma definitiva e inmediata de YouTube.
El futuro de la protección en la plataforma
La reputación de YouTube como un entorno seguro para la familia depende de una respuesta técnica inmediata y eficaz. Es fundamental que el equipo de soporte actualice sus protocolos para las imágenes de los canales y pasen por un proceso de validación como el resto del material que se sube en la plataforma.
Mientras tanto, se recomienda a los padres activar los controles parentales más estrictos disponibles en la aplicación. Esta vulnerabilidad sigue presente y, hasta que no se realice una limpieza masiva, el buscador de YouTube seguirá mostrando este tipo de contenido, el cual es inapropiado y peligroso.