Superintelligenz: Pfade, Gefahren, Strategien

Superintelligenz wirft die Fragen auf: Was passiert, wenn Maschinen den Menschen in Bezug auf die allgemeine Intelligenz übertreffen? Werden künstliche Agenten uns retten oder zerstören? Nick Bostrom legt den Grundstein für das Verständnis der Zukunft der Menschheit und intelligenten Lebens. Das menschliche Gehirn besitzt Fähigkeiten, die den Gehirnen anderer Tiere fehlen. Diesen besonderen Fähigkeiten verdankt unsere Spezies ihre dominierende Stellung. Wenn Maschinenhirne die menschlichen Gehirne in Bezug auf die allgemeine Intelligenz übertreffen würden, könnte diese neue Superintelligenz extrem mächtig werden – möglicherweise jenseits unserer Kontrolle. So wie das Schicksal der Gorillas heute mehr vom Menschen als von der Art selbst abhängt, so würde das Schicksal der Menschheit von den Handlungen der maschinellen Superintelligenz abhängen.

Aber wir haben einen Vorteil: Wir können den ersten Schritt machen. Wird es möglich sein, eine künstliche Saat-Intelligenz zu konstruieren, die Ausgangsbedingungen so zu gestalten, dass eine Intelligenzexplosion überlebbar wird? Wie könnte man eine kontrollierte Detonation erreichen?

Dieses zutiefst ambitionierte und originelle Buch erschließt ein weites Feld schwierigen intellektuellen Terrains. Nach einer absolut fesselnden Reise, die uns an die Grenzen des Denkens über die menschliche Existenz und die Zukunft intelligenten Lebens führt, finden wir in Nick Bostroms Werk nichts weniger als eine Rekonzeptualisierung der wesentlichen Aufgabe unserer Zeit.