Le problème de l'alignement : l'apprentissage automatique et les valeurs humaines

« S'il ne fallait lire qu'un seul livre sur l'intelligence artificielle, ce serait celui-ci. » ―Stephen Marche, New York Times

Une exploration époustouflante de tout ce qui ne va pas lorsque nous construisons des systèmes d'IA et du mouvement pour les réparer.

Les systèmes d'« apprentissage automatique » d'aujourd'hui, entraînés par les données, sont si efficaces que nous les avons invités à voir et à entendre pour nous – et à prendre des décisions en notre nom. Mais les sonnettes d'alarme retentissent. Ces dernières années ont vu une explosion d'inquiétudes à mesure que le domaine de l'apprentissage automatique progresse. Lorsque les systèmes que nous tentons d'enseigner ne feront finalement pas ce que nous voulons ou ce que nous attendons, des risques éthiques et potentiellement existentiels surgissent. Les chercheurs appellent cela le problème de l'alignement.

Les systèmes suppriment des CV jusqu'à ce que, des années plus tard, nous découvrions qu'ils ont des biais de genre inhérents. Les algorithmes décident de la libération sous caution et de la libération conditionnelle – et semblent évaluer différemment les accusés noirs et blancs. Nous ne pouvons plus supposer que notre demande de prêt hypothécaire, ou même nos examens médicaux, seront vus par des yeux humains. Et comme les véhicules autonomes partagent nos rues, nous mettons de plus en plus nos vies entre leurs mains.

Les modèles mathématiques et computationnels à l'origine de ces changements varient en complexité, d'un élément pouvant tenir sur une feuille de calcul à un système complexe que l'on pourrait légitimement appeler « intelligence artificielle ». Ils remplacent progressivement le jugement humain et les logiciels explicitement programmés.

Dans le récit captivant de l'auteur à succès Brian Christian, nous rencontrons les « premiers intervenants » du problème de l'alignement et découvrons leur plan ambitieux pour le résoudre avant que nous ne soyons complètement dépossédés du contrôle. Dans un mélange magistral d'histoire et de reportages sur le terrain, Christian retrace la croissance explosive du domaine de l'apprentissage automatique et explore sa vaste frontière actuelle. Les lecteurs rencontrent une discipline qui prend son envol au milieu de progrès exaltants et parfois terrifiants. Que nous – et eux – réussissions ou échouions à résoudre le problème de l'alignement sera une histoire humaine déterminante.

Le problème de l'alignement offre un examen sans concession des biais et des angles morts de l'humanité, de nos propres hypothèses tacites et de nos objectifs souvent contradictoires. Œuvre éblouissante et interdisciplinaire, elle jette un regard critique non seulement sur notre technologie mais aussi sur notre culture – et y trouve une histoire à la fois déchirante et pleine d'espoir.