Menschheit 2.0: Künstliche Intelligenz und das Problem der Kontrolle

Ein führender Forscher im Bereich der künstlichen Intelligenz stellt einen neuen Ansatz für KI dar, der es uns ermöglichen wird, erfolgreich mit zunehmend intelligenten Maschinen zu koexistieren.

In der Vorstellung der Öffentlichkeit ist übermenschliche künstliche Intelligenz eine nahende Flutwelle, die nicht nur Arbeitsplätze und menschliche Beziehungen, sondern die Zivilisation selbst bedroht. Der Konflikt zwischen Menschen und Maschinen wird als unvermeidlich und sein Ausgang als allzu vorhersehbar angesehen.

In diesem wegweisenden Buch argumentiert der renommierte KI-Forscher Stuart Russell, dass dieses Szenario vermieden werden kann, aber nur, wenn wir KI von Grund auf neu denken. Russell beginnt mit der Untersuchung der Idee von Intelligenz bei Menschen und bei Maschinen. Er beschreibt die kurzfristigen Vorteile, die wir erwarten können, von intelligenten persönlichen Assistenten bis hin zu stark beschleunigter wissenschaftlicher Forschung, und skizziert die KI-Durchbrüche, die noch erfolgen müssen, bevor wir übermenschliche KI erreichen. Er erläutert auch die Wege, auf denen Menschen KI bereits missbrauchen, von tödlichen autonomen Waffen bis hin zu viraler Sabotage.

Wenn die vorhergesagten Durchbrüche eintreten und übermenschliche KI entsteht, werden wir Entitäten geschaffen haben, die weitaus mächtiger sind als wir selbst. Wie können wir sicherstellen, dass sie niemals, wirklich niemals, Macht über uns haben? Russell schlägt vor, dass wir KI auf einem neuen Fundament neu aufbauen können, nach dem Maschinen so konzipiert sind, dass sie von Natur aus unsicher bezüglich der menschlichen Präferenzen sind, die sie erfüllen müssen. Solche Maschinen wären bescheiden, altruistisch und darauf bedacht, unsere Ziele zu verfolgen, nicht ihre eigenen. Dieses neue Fundament würde es uns ermöglichen, Maschinen zu schaffen, die nachweislich respektvoll und nachweislich vorteilhaft sind.