Shawn Shan: Innovador del Año según MIT Technology Review 2024
La lucha de los artistas contra el AI generativo
Shawn Shan es uno de los Innovadores Menores de 35 Años de MIT Technology Review en 2024. Conoce al resto de los galardonados de este año.
El lanzamiento de modelos de generación de imágenes como DALL-E 2, Midjourney y Stable Diffusion en 2022 desató una oleada de creatividad, pero también causó preocupación entre los artistas. Muchos notaron similitudes inquietantes entre las imágenes generadas por inteligencia artificial y sus propias obras, lo que resultó en la inclusión de su trabajo en set de datos masivos utilizados para entrenar esos modelos, llevándolos a perder oportunidades laborales.
Un enfoque innovador para proteger el arte
Ahora, los artistas están contraatacando, y algunas de las herramientas más poderosas han sido desarrolladas por Shawn Shan, estudiante de doctorado en ciencias de la computación en la Universidad de Chicago (y Innovador del Año 2024). Su carrera comenzó en seguridad y privacidad de IA, y se unió a un proyecto que creó Fawkes, una herramienta para proteger rostros del reconocimiento facial.
Después de enterarse del impacto que la IA generativa tenía en los artistas, Shan, junto con sus asesores Ben Zhao y Heather Zheng, decidió desarrollar una herramienta que pudiera ayudar. Reunieron información de más de mil artistas para comprender sus necesidades y cómo utilizarían cualquier tecnología de protección.
Glaze y Nightshade: herramientas revolucionarias
Shan desarrolló el algoritmo detrás de Glaze, una herramienta que permite a los artistas enmascarar su estilo personal de la imitación por parte de la IA. Lanzada a principios de 2023, Glaze ha sido un éxito rotundo, con casi 3.5 millones de descargas. En octubre del mismo año, Shan y su equipo presentaron Nightshade, que agrega una capa invisible de «veneno» a las imágenes para obstaculizar los modelos generativos de IA. La respuesta ha sido abrumadora, generando tanto apoyo entre los artistas como críticas de los defensores de la IA generativa.
Apoyo de la comunidad artística
Karla Ortiz, una artista que ha colaborado con Shan, menciona que su trabajo ha permitido a los artistas ser creativos nuevamente en línea. La integración de Glaze en plataformas artísticas como Cara ha aumentado su utilidad, permitiendo a los artistas proteger su trabajo en el momento de la carga. Mientras tanto, ambos algoritmos han recibido reconocimientos en conferencias como el Simposio de Seguridad Usenix.
Conoce al resto de los
Innovadores Menores de 35 Años.
El futuro de la protección artística
Shan busca equilibrar la balanza de poder entre grandes corporaciones y la comunidad artística. «Las potencias de la IA son todas empresas privadas, y su trabajo no es proteger a las personas», dice. Su objetivo es mostrar que las empresas de IA pueden colaborar con los artistas para ayudarlos a beneficiarse de la tecnología o, en su defecto, permitirles optar por no participar en el uso de sus creaciones.
En el futuro, Shan planea desarrollar herramientas que ayuden a los reguladores a auditar modelos de IA y hacer cumplir la ley, además de seguir mejorando Glaze y Nightshade para su aplicación en otras industrias como el gaming, la música o el periodismo. «Estoy comprometido con este proyecto de por vida», afirma.
Mira a Shan hablar sobre su trabajo y lo que viene en una reciente entrevista con Amy Nordrum, editora ejecutiva de MIT Technology Review.
Esta historia ha sido actualizada.