La popular plataforma de IA de código abierto, Hugging Face, ha dado un paso importante y decisivo en la protección de sus usuarios. La compañía ha anunciado recientemente una alianza con VirusTotal, el reconocido servicio de análisis de archivos propiedad de Google, para detectar y prevenir amenazas emergentes en los modelos de datasets disponibles en su repositorio.
Por lo tanto, a parir de ahora, al descargar un modelo desde Hugging Face, los usuarios podrán ver información de seguridad generada por varios antivirus, incluidos los resultados directos de VirusTotal. Esta integración permitirá identificar posibles riesgos antes de que el archivo llegue al entorno local, mejorando así la confianza en la comunidad de desarrolladores y científicos de datos.
Hugging Face y VirusTotal refuerzan la seguridad en la IA
La nueva función ofrece un análisis de seguridad detallado sobre cada modelo, conjunto de datos o archivos alojados en la plataforma. En caso de que se detecte un archivo inseguro, el sistema mostrará un enlace público al informe completo de VirusTotal, en donde se podrá consultar la naturaleza del riesgo, los motores que lo han identificado y las recomendaciones pertinentes.
En VirusTotal, también estamos evolucionando para afrontar los retos de este nuevo panorama. Desarrollamos herramientas de análisis basadas en IA como Code Insight, que utiliza LLM para comprender y explicar el comportamiento del código, y añadimos compatibilidad con herramientas especializadas para formatos de modelos/serialización, como picklescan, safepickle y ModelScan, para ayudar a detectar patrones de riesgo y flujos de deserialización inseguros.
La medida responde a un creciente desafío en el ecosistema de la IA de código abierto: la aparición de archivos de modelos alterados, dependencias inseguras, envenenamiento de datos o puertas traseras ocultas. Todos estos ataques buscan compromete tanto la integridad de los modelos como la seguridad de los usuarios que los implementan en sus proyectos.
Una colaboración estratégica para un entorno más confiable
Con la nueva alianza, Hugging Face no solo protegerá la comunidad, sino que también impulsa una línea de investigación conjunta con VirusTotal enfocada en detectar amenazas dirigidas específicamente a los modelos de IA. El objetivo es construir un ecosistema donde los desarrolladores puedan compartir y descargar modelos con garantías verificables de seguridad.
Por su parte, VirusTotal amplia su alcance más allá del análisis tradicionales de malware, incorporando capacidades avanzadas orientadas al a seguridad del software de aprendizaje automático. Con herramientas como Code Insight o ModelScan, la empresa explora patrones de comportamiento y vulnerabilidades que podrían pasar inadvertidos en flujos de desarrollo convencionales.
