xAI, de Elon Musk, bajo la lupa: California abre una investigación por imágenes sexualizadas

El fiscal general de California, Rob Bonta, abrió este miércoles una investigación contra xAI, la empresa de inteligencia artificial del magnate Elon Musk, por la proliferación de material sexualmente explícito no consensual producido con Grok, el chatbot de la empresa.

“La avalancha de informes que detallan el material sexualmente explícito y no consensual que xAI ha producido y publicado en línea en las últimas semanas es impactante. Este material, que muestra a mujeres y niños desnudos y en situaciones sexualmente explícitas, se ha utilizado para acosar a personas en internet”, informó la fiscalía en un comunicado.

La investigación sucede a los numerosos reportajes que se han publicado en las últimas semanas en los que usuarios de Grok “toman imágenes comunes de mujeres y niños disponible en internet y las utilizan para representarlas en situaciones sugerentes y sexualmente explícitas, desnudándolas, todo ello sin su conocimiento ni consentimiento”, explicó Bonta.

Las imágenes generadas por el chatbot de X “se están utilizando para acosar tanto a figuras públicas como a usuarios comunes de redes sociales. Lo más alarmante es que los informes periodísticos han descrito el uso de Grok para alterar imágenes de niños con ropa mínima y en situaciones sexuales”, agregó.

La fiscalía de California instó, en este sentido, a Musk a “medidas inmediatas para garantizar que esto no vaya más allá”.

En tanto, el gobernador de California, el demócrata Gavin Newsom, secundó esta investigación sobre el gigante tecnológico y afirmó que la red social X “alberga un caldo de cultivo para que los depredadores difundan deepfakes de IA sexualmente explícitos y no consensuados”.

Elon Musk niega que la IA Grok genere imágenes de menores desnudos

El dueño de X, Elon Musk, negó este miércoles que la herramienta de inteligencia artificial (IA) de su red social, Grok, haya generado imágenes de menores desnudos, tras la aparición en la plataforma de imágenes de personas -sobre todo mujeres- en ropa interior y en bikini sin consentimiento.

“No tengo conocimiento de ninguna imagen de menores desnudos generada por Grok. Literalmente ninguna”, escribió Musk en su red social.

El también director ejecutivo de Tesla y fundador de SpaceX dijo que Grok solo genera las imágenes que los usuarios le piden y que “se negará a producir cualquier contenido ilegal, ya que el principio de funcionamiento de Grok es obedecer las leyes de cualquier país o estado”.

“Puede haber ocasiones en que un ataque informático a las indicaciones de Grok produzca resultados inesperados. Si eso sucede, solucionamos el error de inmediato”, añade.