La polémica en torno a Grok, la IA de Elon Musk, ha dado un giro internacional importante. Los gobiernos de Indonesia y Malasia anunciaron el bloqueo de Grok tras detectarse una ola de deepfakes sexualizados generados por la plataforma. El caso involucra incluso imágenes de menores, lo que ha desatado una crisis diplomática y tecnológica sin precedentes para xAI, la compañía detrás del chatbot.
Ambos países han justificado la acción como una medida de seguridad digital y derechos humanos. Según las autoridades, el sistema de generación de imágenes de Grok facilitó contenido que vulnérala la dignidad y privacidad de las personas. Esta acción marca la primera intervención oficial de gobiernos contra esta herramienta, considerada el proyecto más ambicioso de Musk en el campo de la IA.
Gobiernos justifican el bloqueo de Grok por violaciones digitales
Según ha informado The New York Time, la ministra de de Comunicaciones y Asuntos Digitales de Indonesia, Meutya Hafid, ha calificado la acción como una “una violación grave de los derechos humanos y de la seguridad ciudadana en el entorno digital”. La funcionaría ha confirmado que su país convocará a los representantes de de X y xAI para exigir medidas concretas:
Proteger a nuestros ciudadanos de los abusos digitales es una prioridad. La tecnología no puede estar por encima de la dignidad humana, declaró Hafid en un comunicado oficial.
El ministerio indonesio explicó además que la decisión fuer coordinada con la red social X, también propiedad de Musk, dado a que Grok está directamente integrada en la plataforma. Por su parte, Malasia siguió el mismo camino un día después, sumándose a la restricción con una orden temporal que afecta a todos los usuarios del país.
Reacción de Musk y nuevas presiones internacionales
Como era de esperarse, la respuesta de Musk no tardo en llegar. El empresario defendió la libertad de expresión y acusó a los gobiernos de utilizar el incidente como excusa para censurar su tecnología. En paralelo, xAI anunció una restricción parcial de su función de generación de imágenes, limitándola a usuarios de pago. Sin embargo, los críticos consideran que la medida es insuficiente.
Según los reportes de los medios estadounidenses, la versión independiente de Grok sigue permitiendo la creación de imágenes sin filtros robustos, lo que mantiene viva la preocupación por el abuso de la herramienta.
Mientras todo eso pasa, los senadores demócratas de EE.UU. han comenzado a presionar a Apple y a Google para que retiren la aplicación de Grok de sus tiendas de aplicaciones si no garantiza el complimiento de las normas contra el contenido ilegal. Europa e India también han iniciado sus investigaciones preliminares.
El bloqueo de Grok marca un punto de inflexión en la relación entre gobiernos y desarrolladores de IA. Por primera vez, una autoridad nacional detiene oficialmente una herramienta de Musk, alegando riesgos éticos y de seguridad. Expertos señalan que este episodio podría acelerar la creación de leyes internacionales que regulen la generación de imágenes mediante inteligencia artificial.