El gobierno de Malasia dio un paso firme en la regulación de la inteligencia artificial al bloquear el acceso a Grok, la herramienta desarrollada por la red social X, tras considerar que generaba contenido obsceno y manipulaciones de imágenes sin consentimiento.
CONTENIDO SEXUAL EXPLÍCITO
La Comisión de Comunicaciones y Multimedia de Malasia (MCMC) informó que restringió de inmediato el acceso a Grok por producir “imágenes manipuladas obscenas, sexualmente explícitas y groseramente ofensivas”, algunas de ellas relacionadas con mujeres y menores. La medida no afecta el uso de X, plataforma utilizada por cerca de cinco millones de personas en este país de mayoría musulmana.
Según el comunicado oficial, el regulador había solicitado previamente a la empresa de Elon Musk implementar salvaguardas técnicas y mecanismos de moderación efectivos para evitar que la IA vulnerara la legislación local. Sin embargo, consideró insuficiente la respuesta basada en denuncias iniciadas por los propios usuarios.
SUSPENCIONES REGIONALES
El bloqueo en Malasia se suma a una decisión similar adoptada por Indonesia, que también restringió el acceso al chatbot tras detectar prácticas de edición de imágenes sin consentimiento. Las autoridades malasias indicaron que el funcionamiento de Grok está siendo revisado en varios países, incluido el Reino Unido, ante el creciente escrutinio sobre el uso de IA generativa.
Las suspensiones entraron en vigor después de que X limitara el uso de Grok para editar imágenes solo a usuarios de pago, tras una ola de quejas por solicitudes que permitían “desnudar” digitalmente a personas. Musk señaló en su cuenta que quienes utilicen la herramienta para crear contenido ilegal enfrentarán las mismas consecuencias que si publicaran material ilícito en la plataforma.
Grok, hasta ahora de acceso gratuito, permitía subir y modificar fotografías, incluidas ediciones que mostraban a hombres y mujeres en bikini o sin ropa. El caso ha reavivado la discusión global sobre los límites de la inteligencia artificial, la protección de la privacidad y la responsabilidad de las plataformas tecnológicas frente al contenido generado por IA.
