Menschheit 2.0: Künstliche Intelligenz und das Problem der Kontrolle

Ein führender KI-Forscher stellt einen neuen Ansatz für künstliche Intelligenz vor, der es uns ermöglichen wird, erfolgreich mit immer intelligenteren Maschinen zusammenzuleben

In der allgemeinen Vorstellung ist eine übermenschliche künstliche Intelligenz eine herannahende Flutwelle, die nicht nur Arbeitsplätze und menschliche Beziehungen, sondern die Zivilisation selbst bedroht. Ein Konflikt zwischen Menschen und Maschinen gilt als unvermeidlich, und sein Ausgang scheint nur allzu vorhersehbar.

In diesem wegweisenden Buch argumentiert der renommierte KI-Forscher Stuart Russell, dass sich dieses Szenario vermeiden lässt – aber nur, wenn wir KI von Grund auf neu denken. Russell untersucht zunächst die Idee von Intelligenz bei Menschen und Maschinen. Er beschreibt die kurzfristigen Vorteile, die wir erwarten können – von intelligenten persönlichen Assistenten bis hin zu stark beschleunigter wissenschaftlicher Forschung – und skizziert die Durchbrüche in der KI, die noch nötig sind, bevor wir eine übermenschliche KI erreichen. Außerdem legt er dar, auf welche Weise Menschen KI bereits missbrauchen – von tödlichen autonomen Waffen bis hin zu viraler Sabotage.

Sollten die vorhergesagten Durchbrüche eintreten und eine übermenschliche KI entstehen, hätten wir Wesen geschaffen, die weitaus mächtiger sind als wir selbst. Wie können wir sicherstellen, dass sie niemals Macht über uns haben? Russell schlägt vor, die KI auf einer neuen Grundlage neu aufzubauen: Maschinen sollen so konzipiert sein, dass sie grundsätzlich unsicher darüber sind, welche menschlichen Präferenzen sie erfüllen sollen. Solche Maschinen wären bescheiden, altruistisch und darauf verpflichtet, unsere Ziele zu verfolgen, nicht ihre eigenen. Diese neue Grundlage würde es uns ermöglichen, Maschinen zu erschaffen, die nachweislich zurückhaltend und nachweislich nützlich sind.