En China, la IA

Nov 02, 2023

El modelo de la imagen llama inmediatamente la atención. Delgada, tetona y vestida únicamente con un sostén de encaje negro y medias, sonríe seductoramente mientras posa para la cámara en una playa de arena. Su piel clara, suave como la porcelana, brilla bajo la luz del sol.

Se ve demasiado perfecta para ser real, y no lo es. Mire de cerca, y sus dedos la delatan: la uña de su dedo índice está fuera de lugar, mientras que su uña del pulgar se dobla de manera extraña, como un trabajo de retoque fallido.

Las imágenes generadas por inteligencia artificial como esta han conquistado la industria de la moda de China en los últimos meses. Los bots de IA de ojos saltones y grandes pechos están reemplazando rápidamente a los modelos humanos en revistas, catálogos de tiendas y campañas publicitarias en línea. También cautivan a los usuarios en las redes sociales chinas, con el hashtag #AIModel recibiendo millones de visitas.

Pero la tendencia ya está generando polémica. Casi sin excepción, las modelos de IA se ajustan a cierto ideal de belleza femenina altamente sexualizado: uno que valora las cinturas diminutas, las caderas anchas y los escotes visibles. Muchas mujeres chinas dicen que las imágenes les resultan perturbadoras y les preocupa que la moda de la IA refuerce los estándares de belleza tóxicos y poco realistas.

Los modelos de IA no son exclusivos de China y el concepto tampoco es nuevo. Levi's lanzó recientemente una campaña con imágenes generadas por IA, mientras que un modelo de IA apareció en la portada de la edición de Singapur de Vogue en marzo. Pero la tecnología se ha popularizado mucho más rápido aquí que en la mayoría de los otros países.

El gigante tecnológico chino Alibaba lanzó un generador de modelos de moda digital gratuito en sus plataformas de comercio electrónico ya en 2020. La herramienta, llamada Taji, permite a los proveedores seleccionar entre 100 modelos virtuales de diferentes edades y etnias. Luego, pueden subir las fotos de sus productos y Taji generará una serie de imágenes de la modelo usando la ropa en las fotos. A finales de 2022, más de 29 000 proveedores habían utilizado Taji para producir más de 1,6 millones de imágenes generadas por IA, según un informe de Alibaba.

Es probable que la cifra sea mucho más alta hoy. Como en otros lugares, el lanzamiento de ChatGPT en noviembre pasado provocó un aumento en el interés en la generación de contenido de IA en China. Los ilustradores chinos dicen que ahora reciben regularmente consultas de proveedores de comercio electrónico interesados ​​en encargar sesiones fotográficas de moda generadas por IA.

En marzo, el ilustrador Liu Jun publicó un video en la plataforma de video china Bilibili explicando cómo crear imágenes de moda fotorrealistas utilizando el software de diseño impulsado por inteligencia artificial Stable Diffusion. El video se volvió viral y acumuló más de 150,000 visitas durante la noche.

Durante las siguientes semanas, más de 30 empresas se acercaron a Liu para preguntarle sobre su modelo de servicio de IA, dijo Liu a Sixth Tone. Otro ilustrador, de apellido Pan, dijo que 15 tiendas Taobao y fábricas de ropa se habían acercado a él, mientras que otros 600 vendedores se habían unido a su grupo de chat de modelo de IA en la aplicación social WeChat.

Las empresas de moda chinas tienden a estar interesadas en los modelos de IA por la misma razón: son baratos. Por lo general, a un modelo humano se le paga entre 1.400 y 1.600 yuanes (entre 200 y 225 dólares) por hora en China. Teniendo en cuenta otros gastos como maquilladores, fotógrafos y alquiler de estudios, una sesión de ocho horas suele costar a los vendedores alrededor de 36.000 yuanes.

Taji, por el contrario, es gratis. Incluso encargar a ilustradores profesionales de IA, que pueden producir imágenes mucho más fotorrealistas y personalizadas individualmente, es mucho más económico. Pan dijo que cobra 50 yuanes por imagen, con un mínimo de 30 imágenes por pedido: un costo total de 1500 yuanes. Además, los modelos de IA no se cansan, no tienen conflictos de horario y no se ven afectados por el clima.

Pero estos modelos de IA a menudo se ven extrañamente similares. En su gran mayoría, son mujeres blancas con ojos azules, cabello rubio y piernas largas; o modelos asiáticos con ojos muy abiertos, pechos grandes y una figura esbelta. Los expertos advierten que esta es una característica del contenido generado por IA: tiende a amplificar los sesgos culturales que ya existen en la sociedad.

"La 'mirada masculina' para los modelos de IA es definitivamente un problema", dijo Jeff Ding, profesor asistente de la Universidad George Washington, cuya investigación se centra en la industria de IA de China. "Dado que los sesgos de género existentes impregnan los procedimientos, los algoritmos y el diseño, la tecnología de inteligencia artificial puede replicar y reproducir la desigualdad de género".

Sin embargo, este no es un proceso inevitable. Los ilustradores pueden generar cualquier tipo de modelo de IA que elijan. Todo lo que tienen que hacer es recopilar un conjunto de datos de imágenes en el estilo deseado y usarlo para entrenar un modelo de aprendizaje automático. Luego, el modelo generará nuevas imágenes replicando patrones y características del conjunto de datos.

"El algoritmo y el conjunto de datos son los factores más importantes al generar imágenes de modelos de IA", dijo Liu. "No hay estándares fijos para determinar cómo se ven los modelos; su apariencia generalmente la decide la audiencia".

El problema es que los ilustradores, y sus clientes, en su mayoría eligen usar conjuntos de datos repletos de fotos de mujeres sexualmente cosificadas. Los ilustradores trabajan en el software de arte de inteligencia artificial Stable Diffusion, que genera imágenes basadas en un modelo de aprendizaje automático seleccionado. Muchos optan por usar ChilloutMix, un modelo previamente entrenado en la base de datos de IA Civitai, complementado con la palabra clave "muñeca".

Al seleccionar estas opciones, se producirán automáticamente imágenes de mujeres asiáticas convencionalmente atractivas, por lo general con poca ropa y mostrando una gran cantidad de escote. Es el mismo modelo que utilizan las empresas para crear "novias de IA".

Los expertos en género están preocupados por el daño social que pueden causar los modelos de IA "muñecos". China ya está experimentando un aumento en los casos de trastornos alimentarios entre niñas y mujeres jóvenes, lo que se ve impulsado por los "desafíos de belleza" extremos popularizados en las redes sociales.

Stephanie Yingyi Wang, profesora asistente que enseña género y sexualidad en la Universidad de St. Lawrence, dijo que los modelos de IA podrían empeorar el problema. Las imágenes de "muñecas" establecen estándares de belleza aún menos realistas, lo que provocará más vergüenza corporal y ansiedad entre las mujeres jóvenes. Instó a las mujeres a denunciar a las empresas que utilizan modelos de inteligencia artificial que "explotan a las mujeres".

"Para evitar que la tendencia empeore, es importante que las mujeres hablen en contra en las redes sociales", dijo Wang.

Eso ya está empezando a suceder. Una publicación viral reciente sobre modelos de IA en la plataforma de microblogging Weibo provocó asombro entre muchos usuarios, pero también reacciones violentas. Poco después, Xu Ke, estudiante de maestría en la Academia de Arte de China, acudió a la plataforma social Xiaohongshu para denunciar el sexismo inherente a muchos modelos de IA.

"¿Pueden los creadores ser conscientes de que las imágenes de modelos femeninas deben servir a las mujeres?" Xu escribió.

La publicación generó rápidamente más de 2000 me gusta y una avalancha de comentarios de mujeres que expresaban su disgusto con las empresas que utilizan modelos estereotípicos de IA. "Será mejor que vendan esa ropa a los hombres", decía un comentario. "Bloquearé las tiendas que usan este tipo de imágenes", escribió otro usuario.

Muchas mujeres chinas que hablaron con Sixth Tone tenían puntos de vista similares. "Inmediatamente me disgustaron las imágenes (en la publicación viral de Weibo)", dijo Zheng Le, un hombre de 30 años de la provincia oriental china de Jiangxi. "Su apariencia y formas corporales son tan poco realistas y sexuales".

"Desde mi perspectiva, no es un buen anuncio para la línea de lencería: las imágenes de los modelos de IA parecían fotografías de estrellas porno", dijo Irene Pan, una joven de 25 años que vive en la ciudad oriental de Hangzhou.

La pregunta es si esta crítica convencerá a las empresas de moda chinas de revisar sus prácticas publicitarias. Hasta ahora, el ecosistema en el que se encargan y crean los modelos de IA ha estado dominado por hombres, según Xu.

"Los modelos de IA en esa publicación de Weibo fueron creados por un hombre, y quienes respaldaron la tecnología en la sección de comentarios también fueron hombres", dijo Xu. "La discusión de los modelos de IA fue dirigida por hombres".

Xu es optimista de que el cambio llegará con el tiempo. Las mujeres son el público objetivo de muchas de las campañas publicitarias que utilizan modelos de IA, y confía en que la mayoría de las consumidoras "no se sienten atraídas por los modelos de IA en absoluto".

Lin, una modelo de moda de la provincia de Zhejiang, en el este de China, dijo que confiaba en que la IA nunca reemplazaría por completo a los modelos humanos. "Los modelos de IA no tienen emociones", dijo Lin, quien solo dio su apellido por razones de privacidad. "Las clientas compran en ciertas tiendas de Taobao porque son fanáticas de los modelos. Si reemplazan los modelos humanos con IA, los proveedores de comercio electrónico perderán una parte de sus clientes".

Mientras tanto, la creciente conciencia pública sobre el sexismo en la IA puede conducir a cambios fundamentales a largo plazo en la industria publicitaria de China, dijo Xu. Se podría presionar a las empresas para que produzcan tipos de modelos de IA más diversos y menos problemáticos.

"Más mujeres están hablando en contra del problema de la mirada masculina", dijo. "Tal vez en el futuro, más mujeres contribuirán al contenido generado por IA y entrenarán modelos de aprendizaje automático desde una perspectiva feminista".

Editor: Dominic Morgan.

(Imagen de encabezado: imágenes de targetFace/Alibaba y GarryKillian/VectorStock/VCG, reeditadas por Sixth Tone)