Le problème de l'alignement : l'apprentissage automatique et les valeurs humaines

Finaliste du Los Angeles Times Book Prize

Une exploration saisissante de tout ce qui tourne mal lorsque nous construisons des systèmes d’IA et du mouvement qui cherche à y remédier.

Les systèmes actuels d’« apprentissage automatique », entraînés à partir de données, sont si efficaces que nous les avons invités à voir et à entendre pour nous ― et à prendre des décisions en notre nom. Mais les signaux d’alarme retentissent. Ces dernières années, l’avancée du domaine de l’apprentissage automatique a suscité une vive inquiétude. Lorsque les systèmes que nous tentons d’instruire ne font pas, en fin de compte, ce que nous voulons ou ce à quoi nous nous attendons, des risques éthiques et potentiellement existentiels apparaissent. Les chercheurs appellent cela le problème de l’alignement.

Les systèmes trient les CV jusqu’à ce que, des années plus tard, nous découvrions qu’ils comportent des biais de genre inhérents. Des algorithmes décident de la libération sous caution et de la remise en liberté conditionnelle ― et semblent évaluer différemment les prévenus noirs et blancs. Nous ne pouvons plus supposer que notre demande de prêt hypothécaire, ou même nos examens médicaux, sera examinée par des yeux humains. Et à mesure que les véhicules autonomes partagent nos rues, nous confions de plus en plus nos vies à leurs mains.

Les modèles mathématiques et informatiques qui impulsent ces changements varient en complexité, allant de ce qui peut tenir dans un tableur à un système complexe qui pourrait légitimement être qualifié d’« intelligence artificielle ». Ils remplacent progressivement à la fois le jugement humain et les logiciels explicitement programmés.

Dans le récit captivant de l’auteur à succès Brian Christian, nous rencontrons les « premiers intervenants » du problème de l’alignement et découvrons leur plan ambitieux pour le résoudre avant que nous ne lâchions complètement le volant. Dans un mélange magistral d’histoire et de reportage de terrain, Christian retrace la croissance fulgurante du domaine de l’apprentissage automatique et explore son vaste champ d’action actuel. Les lecteurs découvrent une discipline qui prend ses marques au milieu de progrès exaltants et parfois terrifiants. Que nous réussissions ou échouions à résoudre le problème de l’alignement sera une histoire humaine déterminante.

The Alignment Problem offre un examen sans concession des biais et des angles morts de l’humanité, de nos propres présupposés tacites et de nos objectifs souvent contradictoires. Œuvre éblouissante par son interdisciplinarité, elle examine de près non seulement notre technologie, mais aussi notre culture ― et révèle une histoire tantôt déchirante, tantôt porteuse d’espoir.