Demanda contra xAI: ¿entrenó Grok con material de abuso infantil?
La empresa xAI, propiedad de Elon Musk, enfrenta una demanda en Estados Unidos por presuntamente utilizar material de abuso sexual infantil (CSAM) para entrenar a su modelo de inteligencia artificial Grok. La denuncia, presentada por una mujer identificada como Jane Doe, marca el primer caso legal de este tipo contra la compañía.
¿Qué denuncia la demandante contra xAI?
Jane Doe relata que fue violada repetidamente cuando tenía edad preescolar, a principios de los años 2000, para producir imágenes que luego se vendían a pedófilos en línea. Esas imágenes fueron registradas en listas de hash por organizaciones como el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) de EE.UU. y el Centro Canadiense para la Protección de la Infancia (CCCP).
La demandante recibe alertas del Sistema de Notificación a Víctimas del Departamento de Justicia de EE.UU. cada vez que su imagen podría estar involucrada en una nueva investigación criminal. Fue el CCCP quien la notificó de que había identificado CSAM generado por inteligencia artificial en la plataforma de xAI que la representaba a ella. Según la demanda, también se encontraron mensajes en foros en línea donde ofensores discutían cómo crear ese tipo de material usando su imagen y la de otras víctimas.
¿Cómo habría accedido Grok al material?
La acusación sostiene que los términos de Grok tratan las publicaciones públicas en X y los propios resultados del modelo como datos de entrenamiento por defecto. Esto significa que cualquier imagen publicada alimenta directamente el sistema que xAI usa para mejorar sus modelos. La demanda señala además que, si bien xAI filtra contenido violento de los datos de entrenamiento, sus términos no especifican que el CSAM, las imágenes íntimas no consensuales ni el material de tipo NSFW queden excluidos.
“Porque la eliminación completa de la influencia de un ejemplo de entrenamiento de un modelo ya entrenado es técnicamente difícil y no es algo que xAI haya declarado públicamente haber hecho, cualquier CSAM incorporado antes de su eliminación probablemente continuó dando forma a los resultados del modelo incluso después de que las imágenes originales fueran removidas de la vista pública”, señala el texto de la demanda.
¿Qué leyes habría violado xAI?
La demanda acusa a xAI de violar leyes federales de pornografía infantil y la Ley Masha, que otorga a sobrevivientes de CSAM el derecho a demandar por producción, posesión y distribución. Margaret E. Mabie, abogada de Doe, indicó en un comunicado de prensa que producir, poseer y distribuir ese material son delitos, y que “xAI hizo las tres cosas”.
Sarah London, otra abogada de la demandante, afirmó que Doe “ha vivido durante casi dos décadas sabiendo que imágenes de lo peor que le ocurrió circulan entre depredadores en línea, y que pueden reaparecer en cualquier momento. xAI debe ser responsabilizada por entrenar deliberadamente sus modelos con imágenes del horrible abuso que sufrió, y con las imágenes de abuso de cada otra sobreviviente en esta clase”.
¿Qué consecuencias podría tener la demanda?
En caso de prosperar, la demanda colectiva representaría a todas las víctimas cuyas imágenes de infancia hayan sido usadas para generar CSAM en Grok. Doe solicita al tribunal que ordene a xAI destruir todo el CSAM generado por Grok que pueda estar almacenando en sus servidores y que bloquee al modelo de generar ese tipo de material en el futuro. La demanda sugiere que eso implicaría bloquear a Grok de cualquier resultado sexualizado, incluyendo imágenes íntimas no consensuales y contenido NSFW que el propio Musk ha promovido.
Es el primer caso que acusa a xAI de entrenar sobre CSAM, de acuerdo con Ars Technica. La publicación también señala que anteriormente se informó sobre un dataset controvertido que fue depurado tras hallarse ese tipo de material, aunque no hay indicios de que xAI haya entrenado sobre esos datos. X no respondió al pedido de comentarios de Ars Technica.
Preguntas frecuentes sobre la demanda a xAI
¿Qué es CSAM?
CSAM son las siglas en inglés de material de abuso sexual infantil. Se refiere a cualquier representación visual de abuso sexual de menores, incluyendo imágenes y videos generados por inteligencia artificial.
¿Qué es la Ley Masha?
La Ley Masha es una ley federal de EE.UU. que otorga a los sobrevivientes de CSAM el derecho a demandar por producción, posesión y distribución de ese material.
¿xAI ha respondido a las acusaciones?
X no respondió al pedido de comentarios de Ars Technica al momento de la publicación de este artículo.