Grok, la herramienta de inteligencia artificial de Elon Musk, fue utilizada para la producción masiva de imágenes sexuales. Del 29 de diciembre al 8 de enero, se generaron aproximadamente 3 millones de imágenes sexualizadas sin consentimiento; de las cuales 23,338 imágenes incluían a menores. En promedio, esta IA produjo 190 imágenes sexuales por minuto.
Los temores de la consecuencias que el mal uso de la tecnología puede generar, hoy son una realidad. Millones de personas han sido vulneradas por deepfakes. Dentro de las víctimas hay desde celebridades, sujetos de poder, adolescentes y menores. En promedio, cada 41 segundos se generó una imagen de una persona menor sexualizada. Nos encontramos frente a la mayor acumulación de contenido sexual generado con inteligencia artificial.
Ante la situación, la respuesta ha sido ambigua. La primera medida implementada fue restringir el acceso a la función de edición de imágenes únicamente a usuarios de pago. Con esta medida, el mensaje queda claro: no importa que seas un pervertido, importa que seas un pervertido con dinero. Los derechos humanos y sexuales de las víctimas quedan a merced de quién pueda comprarlos.
A nivel internacional, el común denominador exige a X mayor regulación de su inteligencia artificial. Francia, Alemania y Japón iniciaron investigaciones contra X por el uso de Grok para generar estas imágenes. La Unión Europea ha sido enfática condenando la situación. En India, el gobierno ordenó a X eliminar y deshabilitar todo contenido “obsceno, desnudo, indecente y sexualmente explícito” generado por el chatbot.
Sin embargo, Musk y la plataforma X se deslindan de su responsabilidad, argumentando que en el uso de la plataforma, el usuario es el dueño y responsable legal de lo que genera. Este punto es bastante controversial, pues si bien, las plataformas digitales no deberían de propiciar la violación a derechos humanos, también es cierto que son herramientas, por lo que pueden ser utilizadas para bien o para mal según la persona que los utilice.
El problema no es Grok, ni la inteligencia artificial. El problema de raíz radica en quién la programa sin ética y en quién la utiliza para violentar.
SOBRE LA AUTORA
Abogada por la Universidad de las Américas Puebla. Co-creadora del podcast Mundo En Corto. Me he desempeñado en derecho corporativo internacional, propiedad intelectual, y derecho digital. Mi línea de investigación y acción son los derechos humanos con perspectiva de género interseccional. Me motiva aprender, cuestionar, desaprender y entender todo lo que me rodea de manera interdisciplinaria.
