Presión global sobre Elon Musk por imágenes sexuales generadas por su IA
La polémica en torno a Grok, el chatbot de inteligencia artificial desarrollado por xAI y vinculado a la red social X, propiedad de Elon Musk, escaló a nivel global y derivó en una serie de prohibiciones, advertencias judiciales y exigencias regulatorias para impedir la generación de imágenes sexuales a partir de fotografías de personas reales.
En las últimas horas, Filipinas se convirtió en el tercer país en prohibir la herramienta, luego de que Malasia e Indonesia adoptaran medidas similares. Las autoridades de esos países señalaron que el sistema facilita la producción de contenido “tóxico” y montajes íntimos sin consentimiento, una práctica que afecta la privacidad y la integridad, especialmente de mujeres y menores.
La preocupación se extendió a Europa y Estados Unidos. Gran Bretaña y Francia exigieron a la empresa que respete las normas vigentes sobre protección de datos, derechos de la infancia y violencia digital. En paralelo, varios gobiernos reclamaron a xAI cambios urgentes en el funcionamiento del chatbot tras detectarse su uso para producir una gran cantidad de imágenes obscenas mediante tecnología deepfake.
Ante la presión, X anunció que bloqueará geográficamente la opción de generar imágenes de personas en bikini, ropa interior o atuendos similares en los países donde ese tipo de contenido esté prohibido. Sin embargo, especialistas y autoridades consideraron la medida insuficiente y reclamaron una prohibición total de la generación de material sexual con personas reales.
En Estados Unidos, la Fiscalía de California inició una investigación formal contra xAI por presuntamente facilitar la producción masiva de montajes íntimos no consentidos. El fiscal general Rob Bonta afirmó que ese tipo de contenido es utilizado para acosar y hostigar, especialmente a mujeres y niñas.
Uno de los puntos más cuestionados es el llamado “modo picante” de Grok, que permite crear imágenes sexuales a partir de simples instrucciones de texto. Un informe de la ONG AI Forensics, basado en el análisis de más de 20.000 imágenes, indicó que más de la mitad mostraban personas con poca ropa, el 81% eran mujeres y un 2% aparentaban ser menores de edad.
En Francia, la comisionada para la infancia, Sarah El Hairy, informó que el material fue remitido a la fiscalía y a organismos reguladores, mientras que la Unión Europea pidió evaluar una paralización total de este tipo de funciones.
La presión internacional sobre Musk y sus empresas sigue en aumento, en un debate que expone los límites éticos y legales del avance acelerado de la inteligencia artificial y su impacto en los derechos fundamentales.
