Wenn es jemand baut, sterben alle: Warum eine superhumane KI uns alle töten würde

„Könnte sich als das wichtigste Buch unserer Zeit erweisen.“ – Tim Urban, Wait But Why

Das Wettrennen um die Entwicklung einer übermenschlichen KI hat uns auf den Weg des Aussterbens gebracht – doch es ist noch nicht zu spät, den Kurs zu ändern, wie zwei der frühesten Forscher auf diesem Gebiet in diesem Aufruf an die Menschheit erklären.

Im Jahr 2023 unterzeichneten Hunderte von KI-Koryphäen einen offenen Brief, in dem sie warnten, dass künstliche Intelligenz ein ernsthaftes Risiko für die Ausrottung der Menschheit darstellt. Seitdem hat sich das KI-Wettrennen nur noch verschärft. Unternehmen und Länder eilen, Maschinen zu bauen, die klüger sein werden als jeder Mensch. Und die Welt ist verheerend unvorbereitet auf das, was als Nächstes kommen würde.

Seit Jahrzehnten untersuchen zwei Unterzeichner dieses Briefes – Eliezer Yudkowsky und Nate Soares –, wie Intelligenzen, die klüger sind als Menschen, denken, sich verhalten und ihre Ziele verfolgen werden. Ihre Forschung besagt, dass ausreichend intelligente KIs eigene Ziele entwickeln werden, die sie in Konflikt mit uns bringen – und dass eine künstliche Superintelligenz uns im Falle eines Konflikts vernichten würde. Der Wettbewerb wäre nicht einmal annähernd ausgeglichen.

Wie könnte eine maschinelle Superintelligenz unsere gesamte Spezies auslöschen? Warum sollte sie das wollen? Würde sie überhaupt etwas wollen? In diesem dringenden Buch gehen Yudkowsky und Soares die Theorie und die Beweise durch, stellen ein mögliches Aussterbeszenario vor und erklären, was nötig wäre, damit die Menschheit überlebt.

Die Welt rast, um etwas wirklich Neues unter der Sonne zu erschaffen. Und wenn es jemand erschafft, sterben alle.

„Die beste, schnörkellose, einfache Erklärung des KI-Risikoproblems, die ich je gelesen habe.“ – Yishan Wong, ehemaliger CEO von Reddit