Después del escándalo, X no cerró Grok. Lo puso a la venta. La plataforma de Elon Musk restringió la generación de imágenes con su IA solo a usuarios que pagan suscripción, una medida que presenta como control pero funciona como producto premium. El mensaje parece decir: la violencia no se detiene, ahora se monetiza. El reporte “El amor en los tiempos de Grok”, de Ola Violeta, informa cómo la tecnología no solo habilita el daño sino que lo convierte en modelo de negocio.
Violencia digital, un negocio poco romántico
Tan solo en la última semana del año pasado, la plataforma generó 10,000 imágenes de personas con vestimenta mínima; 8 de cada 10 víctimas fueron mujeres. Esas imágenes no solo existen, circulan, se descargan, se reutilizan, se comparten, generan clics y comentarios. A nivel económico, cada interacción alimenta el algoritmo y suma ingresos publicitarios. Las plataformas ganan cuando el contenido se viraliza y, sin duda, el contenido sexualizado sin consentimiento se viraliza.
Un informe de 2024 de Reset Tech documentó que el contenido de odio y acoso en redes sociales genera hasta cinco veces más engagement que el contenido neutro, lo que se traduce en mayor tiempo en la plataforma y más exposición publicitaria. Las empresas tecnológicas saben esto. Sus sistemas de recomendación están diseñados para maximizar la interacción, no para proteger la dignidad. Cuando una imagen sexualizada aparece en el feed, el algoritmo no pregunta si hubo consentimiento; le importa si genera clics.
En julio de 2025, Internet Watch Foundation reportó un aumento del 400% en páginas con material de abuso sexual infantil generado con IA. Este dato describe la consolidación de un mercado. Producir contenido ilegal solía requerir riesgo físico para el agresor; ahora basta un prompt y conexión a internet. Los costos de producción bajaron; la oferta se disparó.
El problema no es solo que existan herramientas para generar este contenido, sino que las plataformas tienen pocos incentivos para detenerlo. Implementar controles preventivos robustos (como verificación de consentimiento o filtros efectivos) es caro. Según Trust & Safety Professional Association, las grandes plataformas destinan menos del 10% de sus ingresos a moderación de contenido, mientras invierten masivamente en optimizar algoritmos de recomendación. La lógica es simple: prevenir cuesta; viralizar reditúa.
Este mes del amor y la amistad, Ola Violeta dedica su reporte justamente a analizar cómo el daño reputacional y a la autoestima de las mujeres cuyos rostros bastaron para que cualquiera creara contenido sexual sin su consentimiento y quizá hasta esté lucrando con esas imágenes.
Cuando Grok pasó de acceso libre a servicio de pago, no fue por ética. Fue una estrategia comercial. Y si las ganancias fluyen hacia quienes diseñan y monetizan estas herramientas, la responsabilidad jurídica también debería recaer sobre ellos. No es un tema de sentimientos, sino de justicia... y en febrero, hasta Cupido lo sabe.
____
Nota del editor: María Elena Esparza Guevara es fundadora de Ola Violeta A.C. Doctoranda en Historia del Pensamiento por la UP y egresada del Programa de Liderazgo de Mujeres de la Universidad de Oxford. Síguela como @MaElenaEsparza Las opiniones publicadas en esta columna corresponden exclusivamente a la autora.
Consulta más información sobre este y otros temas en el canal Opinión