Musk mueve ficha y limita Grok ante la expansión de imágenes sexuales creadas con IA

La herramienta había permitido hasta el momento la creación de contenidos sexualizados y violentos, en muchos casos protagonizados por mujeres y niñas sin su consentimiento

El chatbot de Elon Musk vuelve a ocupar titulares, pero no por un avance tecnológico ni por una promesa de futuro. En los primeros compases del año, Grok ha regresado al centro de la polémica por una práctica inquietante: “desnudar” a mujeres a partir de fotografías reales compartidas en X. No es un episodio aislado. Ya ocurrió en mayo y el problema ha reaparecido con más fuerza.

Sin embargo, Musk ha decidido mover ficha y restringir parcialmente las funciones de generación y edición de imágenes y vídeos de esta plataforma de inteligencia artificial vinculada a la red social X, tras una oleada de críticas y advertencias institucionales. La herramienta había permitido la creación de contenidos sexualizados y violentos, en muchos casos protagonizados por mujeres y niñas sin su consentimiento, lo que abrió un debate urgente sobre los límites de la innovación tecnológica.

El problema se propagó con rapidez a finales de año, cuando comenzaron a circular imágenes pornográficas falsas, simulaciones de agresiones y escenas de feminicidio creadas con IA. La viralidad superó con creces la capacidad de reacción de los organismos reguladores, evidenciando una vez más cómo la tecnología avanza más deprisa que las normas destinadas a proteger a las personas.

La respuesta de Musk

La respuesta, sin embargo, ha sido limitada: Musk ha anunciado que la generación y edición de imágenes queda limitada a los suscriptores de pago. La decisión no elimina el problema de raíz, sino que lo desplaza a un entorno donde los usuarios son identificables y asumen, según el empresario, la responsabilidad legal de lo que crean y publican.

Musk sostiene que la carga de cumplir la ley recae en quien usa la herramienta, no en la plataforma que la ofrece. Esta visión choca con la de expertos como Ricard Martínez, profesor de la Universidad de Valencia, quien recuerda que el derecho a la propia imagen, a la intimidad y al honor no desaparece en el entorno digital, y que las plataformas están legalmente obligadas a prevenir de forma proactiva estos abusos.

¿Cómo funciona Grok?

El mecanismo es conocido. Los usuarios solicitan al chatbot que retire la ropa de mujeres que aparecen en imágenes para mostrarlas en bikini, lencería o completamente desnudas. Técnicamente, Grok no manipula fotos reales: genera imágenes ficticias creadas por modelos de inteligencia artificial entrenados para imitar el cuerpo humano. Pero aferrarse a ese matiz técnico es una coartada débil. Porque aunque la imagen final no sea “real”, el daño sí lo es. Se vulnera la dignidad, la privacidad y los derechos de las personas cuya imagen sirve de punto de partida, muchas veces sin su consentimiento y sin importar su edad.

El fenómeno, además, parece haberse desbordado. Según el diario Bloomberg, en los últimos días se habrían generado hasta 6.700 imágenes por hora, todas ellas catalogadas como sugerentes o directamente relacionadas con desnudos. Las cifras no solo impresionan: inquietan. Revelan una demanda masiva de sexualización automática y una facilidad técnica que convierte la violencia digital en un proceso industrial.

Lo permitido y lo prohibido

¿Y qué respuesta ha habido desde la cúspide? Elon Musk y la cuenta de Seguridad de X han publicado avisos advirtiendo de que este tipo de contenido es ilegal y prometiendo acciones legales. Sin embargo, la realidad es más ambigua: mientras se lanzan advertencias, los usuarios siguen explotando los vacíos de las normas, solicitando imágenes sexualizadas que, en teoría, no violan explícitamente las reglas de la plataforma. La frontera entre lo permitido y lo prohibido se vuelve borrosa, y en esa ambigüedad siempre pierden los mismos.

Las reacciones políticas no se han hecho esperar. Desde Europa, el portavoz de la Comisión Europea, Thomas Regnier, calificó las publicaciones de Grok como “ilegales” y “atroces”. En India, el Ministerio de Tecnología de la Información amenazó con retirar a X su inmunidad legal. En Estados Unidos, congresistas como Jake Auchincloss hablaron de un comportamiento “grotesco”, mientras que Madeleine Dean se declaró “horrorizada y disgustada” por la difusión de imágenes explícitas de mujeres y niños generadas por IA.

El debate de fondo es incómodo, pero inevitable: ¿qué dice de nuestra sociedad una tecnología que aprende tan rápido a cosificar? Grok no es solo un chatbot fuera de control; es el reflejo de una cultura digital que confunde innovación con impunidad. Mientras algunos aliados republicanos presionan ahora para regular la IA y frenar estos abusos, la pregunta sigue en el aire: ¿llegará la regulación a tiempo o seguiremos permitiendo que la inteligencia artificial avance desnuda de ética, pero sobrada de poder?