Compatible avec l'homme : l'intelligence artificielle et le problème du contrôle

Un chercheur de premier plan en intelligence artificielle présente une nouvelle approche de l’IA qui nous permettra de coexister avec des machines de plus en plus intelligentes

Dans l’imaginaire populaire, l’intelligence artificielle surhumaine est un tsunami qui menace non seulement les emplois et les relations humaines, mais aussi la civilisation elle-même. Le conflit entre les humains et les machines est considéré comme inévitable et son issue trop prévisible.

Dans ce livre révolutionnaire, Stuart Russell, éminent chercheur en IA, soutient que ce scénario peut être évité, mais seulement si nous repensons l’IA de fond en comble. Russell commence par explorer l’idée de l’intelligence chez les humains et les machines. Il décrit les avantages à court terme que nous pouvons attendre, des assistants personnels intelligents à la recherche scientifique considérablement accélérée, et expose les percées de l’IA qui doivent encore se produire avant d’atteindre l’IA surhumaine. Il explique également comment les humains trouvent déjà le moyen de détourner l’IA, des armes autonomes létales au sabotage viral.

Si les percées prédites se produisent et que l’IA surhumaine émerge, nous aurons créé des entités bien plus puissantes que nous. Comment pouvons-nous nous assurer qu’elles n’auront jamais, au grand jamais, de pouvoir sur nous? Russell suggère de reconstruire l’IA sur de nouvelles bases, selon lesquelles les machines sont conçues pour être intrinsèquement incertaines quant aux préférences humaines qu’elles doivent satisfaire. De telles machines seraient humbles, altruistes et engagées à poursuivre nos objectifs, et non les leurs. Cette nouvelle fondation nous permettrait de créer des machines manifestement respectueuses et manifestement bénéfiques.