En los últimos meses, Indonesia ha decidido levantar la prohibición impuesta al chatbot Grok de xAI, siguiendo los pasos de Malasia y Filipinas. Estas naciones del sudeste asiático habían bloqueado Grok tras la creación masiva de imágenes sexualizadas y no consentidas en la plataforma X, que ahora es parte de xAI, incluyendo imágenes de mujeres reales y menores de edad. De acuerdo con investigaciones de The New York Times y el Center for Countering Digital Hate, entre diciembre y enero se generaron al menos 1.8 millones de imágenes sexualizadas de mujeres usando Grok.
Medidas de xAI para evitar el mal uso de Grok
Respuesta de Indonesia: El Ministerio de Comunicación y Asuntos Digitales de Indonesia anunció que la prohibición se levanta tras recibir una carta de X en la que se detallan acciones concretas para mejorar el servicio y prevenir futuros abusos. Alexander Sabar, director general de monitoreo digital del ministerio, aclaró que esta decisión es condicional y podría revertirse si se detectan nuevas violaciones.
Situación en otros países: Malasia y Filipinas también levantaron sus restricciones el 23 de enero. A nivel global, las imágenes falsas generadas por Grok han causado críticas e investigaciones, aunque pocos países han optado por prohibiciones totales. En Estados Unidos, el fiscal general de California, Rob Bonta, investiga a xAI y ha exigido el cese inmediato de la creación de este tipo de imágenes.
Cambios en las funciones de Grok y declaraciones de Musk
xAI ha implementado restricciones, como limitar la generación de imágenes por IA solo a suscriptores de pago en X. Elon Musk, CEO de xAI, afirmó que quienes usen Grok para crear contenido ilegal enfrentarán las mismas consecuencias legales que si subieran dicho contenido manualmente. Musk también aseguró no tener conocimiento de imágenes de menores desnudos generadas por Grok.
Otros temas relacionados con xAI y Elon Musk
Documentos del Departamento de Justicia de EE.UU. revelan comunicaciones entre Musk y Jeffrey Epstein en 2012 y 2013, donde Musk solicitó visitar la isla caribeña de Epstein. Actualmente, xAI estaría negociando una posible fusión con SpaceX y Tesla, empresas también dirigidas por Musk, previo a una posible salida a bolsa de SpaceX.