L’IA peut contribuer à façonner la société pour le mieux

Oct 26, 2023

La collaboration plutôt que le commandement et le contrôle sont essentiels à la création de systèmes culturellement et éthiquement positifs.

L’une des premières images d’IA que j’ai rencontrées était une tête blanche, spectrale, hostile et désincarnée. C'était dans le jeu informatique Neuromancer, programmé par Troy Miles et basé sur le roman cyberpunk de William Gibson. D'autres personnes ont peut-être rencontré pour la première fois HAL 9000 de 2001 : L'Odyssée de l'espace de Stanley Kubrik ou Samantha de Her de Spike Jonze.

Les images de la culture pop influencent les impressions que les gens ont de l’IA, mais la culture entretient avec elle une relation encore plus profonde. S’il y a une chose à retenir de cet article, c’est l’idée que les systèmes d’IA ne sont pas des machines objectives, mais plutôt basés sur la culture humaine : nos valeurs, normes, préférences et comportements en société. Ces aspects de notre culture se reflètent dans la manière dont les systèmes sont conçus. Ainsi, au lieu d’essayer de décider si les systèmes d’IA sont objectivement bons ou mauvais pour la société, nous devons les concevoir pour refléter la culture éthiquement positive que nous souhaitons réellement.

Voici un exemple : Roger Dannenberg, professeur à l'Université Carnegie Mellon de Pittsburgh, a créé un système d'IA qui joue de la musique avec les gens. Il accompagne les interprètes sur la base d'idées de hauteur, d'échelle, de tempo, etc., que l'on pourrait appeler des facettes de la théorie musicale occidentale. En revanche, le compositeur et érudit George E Lewis, issu d'une tradition basée sur la diaspora africaine – le jazz et d'autres traditions, nourries par l'Association pour l'avancement de la musique créative de Chicago – a créé un système appelé Voyager qui est un « système interactif non hiérarchique ». environnement musical qui privilégie l’improvisation ». Les résultats sont très différents. Le système de Dannenberg produit une sortie efficace pour suivre un artiste conventionnel – on dirait qu'elle atteint les notes attendues. Le système de Lewis, en revanche, génère des surprises dans le dialogue avec un interprète, tantôt prenant un solo, tantôt étalant tandis que les solos humains – ni l'humain ni la machine ne dominent.

Le son de Voyager se situe quelque part entre celui du grand jazz d'avant-garde Sun Ra et d'un ensemble de gamelan javanais. Les valeurs de chaque système sont basées sur les cultures dont s'inspirent les musiciens et les programmeurs : contrôle mesurable ou collaboration improvisée, ce qui entraîne des différences importantes dans le résultat de chaque système.

De nos jours, les systèmes d’IA jouent un rôle dans la génération de textes et d’images, dans le diagnostic des maladies et même dans les systèmes d’armes autonomes. On pourrait créer de tels systèmes comme des adeptes des humains ou comme des supports créatifs pour les humains ; nous pouvons considérer la relation entre la machine et l’humain comme étant basée sur le commandement et le contrôle – ou comme basée sur la collaboration, en déterminant ce que les gens font de mieux et ce que l’ordinateur fait de mieux afin qu’ils puissent travailler ensemble de manière fructueuse. Les deux approches ont leur place – mais j’ai l’impression qu’actuellement la dernière approche est moins connue et moins adoptée. La création de systèmes d’IA basés sur de nombreuses cultures différentes, avec des directives éthiques appropriées, peut aider à remédier à ce problème.

Les gens peuvent intentionnellement concevoir des systèmes informatiques avec les valeurs et les visions du monde que nous souhaitons. Par exemple, le MIT Center for Advanced Virtuality, que j'ai fondé et que je dirige, a construit des simulations telles que Breakbeat Narratives, une collaboration avec Universal Hip Hop Museum et Microsoft. Le système utilise les technologies de notre centre, des personnages créés avec les artistes de bandes dessinées Black Kirby, l'IA conversationnelle de Microsoft et le contenu d'archives musicales de la TunesMap Educational Foundation pour enseigner l'histoire du hip-hop en fonction des goûts et des intérêts musicaux de l'utilisateur. Par exemple, si vous aimez la musique Roots et êtes intéressé par les artistes hip-hop féminins, vous pouvez vous procurer un court documentaire sur l'auto-représentation des femmes dans le hip-hop, doté d'une bande originale de chansons hip-hop inspirées du country et du western. et le pâturin.

J'ai également eu le plaisir de collaborer avec le photojournaliste de guerre et artiste VR Karim Ben Khelifa sur un projet qu'il a dirigé intitulé The Enemy, qui a permis aux téléspectateurs d'entendre de manière journalistique les points de vue des combattants des deux côtés des conflits en République démocratique du Congo et au Salvador. et Gaza – tout en personnalisant l'expérience en fonction du langage corporel des utilisateurs comme indicateur de leurs préjugés et de leur attention potentiels.