La directora Valérie Fitch ha captado una atención considerable al lanzar el modelo Sora de OpenAI, que convierte texto en videos, en 2024. A pesar de no comprender completamente la tecnología, su curiosidad y deseo de comunicarse con otros artistas la llevaron a sumergirse en el mundo de la inteligencia artificial. Sin embargo, lo que la sorprendió fue cómo esta tecnología podía producir imágenes cargadas de racismo y discriminación de género.
Fitch profundizó en sus experiencias con el modelo de inteligencia artificial y descubrió que sus colegas entusiastas de la tecnología no prestaban suficiente atención a las consecuencias que esto conllevaba. Estas experiencias la llevaron a producir un documental titulado 'Espectro en la máquina', que examina las técnicas y las corrientes de pensamiento que contribuyeron a la existencia de la inteligencia artificial.
Exploración del Racismo y la Discriminación en la IA
En lugar de centrarse en los posibles beneficios para la sociedad, la película se centra en la larga historia de la tecnología de inteligencia artificial. Fitch enfatiza la necesidad de comprender los verdaderos significados de la frase 'inteligencia artificial', que fue lanzada por primera vez en 1956 por el científico informático John McCarthy como un medio para atraer financiamiento para sus proyectos.
Es interesante notar que Fitch vinculó el desarrollo de la inteligencia artificial con un pensamiento que surgió en la Inglaterra victoriana sobre la eugenesia, con la participación de Francis Galton, quien creía que la mejora de la humanidad era posible mediante la eliminación sistemática de las razas 'inferiores'.
Implicaciones de la Historia en la IA Moderna
Aunque Galton hizo contribuciones académicas, sus ideas racistas promovieron la noción de que era posible medir la inteligencia humana, lo que ayudó a comercializar la idea de la inteligencia artificial al público. Fitch abordó sus experiencias personales con el modelo Sora, donde una de sus colegas de piel de color tuvo problemas para retratar sus modelos de una manera que alargara las características de los blancos.
Fitch se dirigió a OpenAI para alertarles sobre los problemas raciales y de género en las salidas del modelo, pero la empresa no respondió a sus preocupaciones. Esta experiencia, según Fitch, la llevó a querer descubrir las raíces de estos patrones preocupantes en la inteligencia artificial. La película incluye voces de investigadores en inteligencia artificial, historiadores y críticos, quienes afirman que muchos aspectos de la inteligencia artificial han sido influenciados significativamente por las ciencias que apoyan opiniones discriminatorias.
Desafíos Éticos en la Industria de la IA
Fitch explica que cualquier encuentro con líderes de estas empresas, como Sam Altman, requiere que ella haga concesiones que podrían hacer que su película sea cómplice de los daños causados por la inteligencia artificial. 'Espectro en la máquina' está programado para ser presentado en la plataforma Kinema del 26 al 28 de marzo antes de ser transmitido por PBS más adelante este otoño.
El documental no solo busca informar, sino también provocar un diálogo sobre cómo abordar las cuestiones de discriminación en la tecnología moderna. A medida que la inteligencia artificial continúa evolucionando, es crucial que la sociedad reconozca y aborde estos problemas éticos.
Importancia Regional y Global
Este tema es relevante no solo a nivel local, sino también global, ya que los problemas de racismo y discriminación de género en la inteligencia artificial afectan a comunidades en todo el mundo. La película de Fitch es un llamado a la acción para que los desarrolladores y las empresas de tecnología consideren las implicaciones éticas de sus creaciones.
En conclusión, 'Espectro en la máquina' no solo es un documental sobre la historia de la inteligencia artificial, sino también una reflexión sobre cómo esta tecnología puede perpetuar desigualdades sociales si no se maneja con cuidado y responsabilidad.