Shein Retira Producto Tras Descubrir Que su Modelo Generado Por IA Era Presunto Asesino de un CEO
El gigante de venta de ropas online Shein retiró rápidamente su publicación tras recibir denuncias de que estaban usando una imagen generada por IA del rostro de Luigi Mangione para promocionar sus camisas.
El equipo de marketing de Shein utilizó sin saberlo la imagen generada por IA de Luigi Mangione, acusado del asesinato del CEO de UnitedHealthcare, para promocionar una camisa básica.
La empresa eliminó rápidamente el listado tras volverse viral y culpó a un proveedor externo, prometiendo tomar "acciones apropiadas" contra el responsable del error.
El incidente se suma a casos previos como Scarlett Johansson demandando por el uso no autorizado de su imagen en campañas y asistentes de voz generados por IA.
El equipo de marketing de Shein probablemente pensó que había encontrado el modelo perfecto: mandíbula cincelada, ojos penetrantes, el tipo de rostro que podría vender camisas de baja calidad a cualquiera que estuviera revisando la plataforma a las 2 a.m. Solo había un problema: su galán generado por IA era Luigi Mangione, el joven de 26 años acusado de matar al CEO de UnitedHealthcare el pasado diciembre.
La camisa, una básica de algodón, apareció en el sitio web de Shein con lo que el investigador de IA Henk van Ess identificó como una probable creación de Midjourney. Las herramientas de reconocimiento facial confirmaron la coincidencia. En cuestión de horas después de volverse viral, el listado desapareció más rápido que la letra pequeña de la política de devoluciones de Shein.
"Estamos al tanto del producto y lo hemos eliminado de nuestro sitio", dijo un vocero de Shein a TMZ. La empresa culpó a un proveedor externo, eludiendo la responsabilidad sin identificar al proveedor en cuestión. Según reportes, la camisa se agotó antes de que alguien en Shein notara el parecido de su nuevo modelo con el hombre más buscado de Estados Unidos la semana pasada.
Sin embargo, puedes acceder al anuncio si visitas la Wayback Machine.
Shein prometió "acciones apropiadas" contra el proveedor, lo que probablemente significa encontrar un proveedor que pueda generar modelos falsos que no repliquen accidentalmente a personas en las listas de vigilancia del FBI.
El incidente provocó el usual ataque en X, con usuarios divididos entre el horror y la admiración reacia por cualquier algoritmo que pensara que "supuesto asesino de CEO" era la estética correcta para ropa casual económica.
the fact that your face can be used, without consent, to promote products that you've never even touched thanks to genAI...
add in the fact that they're using the image of an incarcerated individual who has already lost all autonomy.
El tropiezo algorítmico de Shein se une a una galería creciente de errores de IA, incluyendo a Scarlett Johansson, quien prácticamente se convirtió en el rostro falso del movimiento anti-deepfake.
"Estos anuncios de IA me ponen triste y preocupado por el futuro del juego", escribió un usuario de Reddit. "Lo peor de todo esto es que quien está a cargo de las cuentas oficiales de TFD en TikTok está al tanto de la reacción negativa contra los anuncios de IA y se ha esforzado por ignorarla y ocultarla. Han estado eliminando y volviendo a subir los videos de IA cada vez que reciben demasiada reacción negativa en los comentarios".
Los reguladores se esfuerzan por ponerse al día, pero hasta ahora, la regulación avanza lentamente mientras la IA corre a gran velocidad.
Generally Intelligent Newsletter
A weekly AI journey narrated by Gen, a generative AI model.
