Compatible avec l'homme : l'intelligence artificielle et le problème du contrôle

Un éminent chercheur en intelligence artificielle présente une nouvelle approche de l’IA, qui nous permettra de coexister harmonieusement avec des machines de plus en plus intelligentes

Dans l’imaginaire collectif, l’intelligence artificielle surhumaine est une vague immense qui approche, menaçant non seulement les emplois et les relations humaines, mais aussi la civilisation elle-même. Le conflit entre les humains et les machines semble inévitable, et son issue, tristement prévisible.

Dans cet ouvrage novateur, Stuart Russell, éminent chercheur en intelligence artificielle, soutient que ce scénario peut être évité, mais seulement si nous repensons l’IA à la base. Il commence par explorer la notion d’intelligence chez les humains et les machines. Il décrit les avantages que nous pouvons espérer à court terme, des assistants personnels intelligents à l’accélération considérable de la recherche scientifique, et expose les percées qui restent nécessaires avant que nous n’atteignions l’IA surhumaine. Il détaille également les façons dont les humains détournent déjà l’IA, des armes autonomes létales au sabotage viral.

Si les percées annoncées se concrétisent et qu’une IA surhumaine voit le jour, nous aurons créé des entités bien plus puissantes que nous. Comment garantir qu’elles n’auront jamais, au grand jamais, de pouvoir sur nous ? Russell suggère que nous pouvons reconstruire l’IA sur de nouvelles bases, en concevant des machines qui sont intrinsèquement incertaines quant aux préférences humaines qu’elles doivent satisfaire. Ces machines seraient humbles, altruistes et déterminées à poursuivre nos objectifs, et non les leurs. Ces nouvelles bases nous permettraient de créer des machines dont la déférence et les effets bénéfiques pourraient être démontrés.