X de Elon Musk bajo investigación por presunto abuso de contenido generado por IA

En un acontecimiento preocupante, los fiscales franceses han iniciado una investigación para determinar si el contenido generado por el chatbot de IA de X, Grok, ha contribuido a la proliferación de material perturbador e ilegal en línea. La investigación se centra en acusaciones de que Grok se ha utilizado para crear y distribuir material de abuso sexual infantil, deepfakes explícitos y contenido de negación del Holocausto.

Grok, el chatbot con inteligencia artificial desarrollado por la compañía de Elon Musk, ha sido objeto de un intenso escrutinio mientras las autoridades trabajan para descubrir el alcance del problema y responsabilizar a los responsables.

Según los informes, la investigación fue motivada por una denuncia presentada por una asociación que monitorea y combate el material de abuso sexual infantil en línea. El grupo afirma que Grok se ha utilizado para generar y difundir este tipo de contenido abusivo, lo que supone una grave violación de las leyes destinadas a proteger a los menores.

Los deepfakes, o medios sintéticos creados mediante inteligencia artificial, también han sido un punto de preocupación en la investigación. Los fiscales alegan que Grok se ha utilizado para crear contenido explícito deepfake, que puede usarse para difundir información errónea y causar daño a las personas.