Das Alignment-Problem: Maschinelles Lernen und menschliche Werte

Finalist für den Los Angeles Times Book Prize

Eine atemberaubende Untersuchung all dessen, was schiefgeht, wenn wir KI-Systeme entwickeln, und der Bewegung, die das ändern will.

Die heutigen, mit Daten trainierten „maschinellen Lernsysteme“ sind so leistungsfähig, dass wir sie für uns sehen und hören lassen – und in unserem Namen Entscheidungen treffen lassen. Doch die Alarmglocken läuten. In den vergangenen Jahren ist mit den Fortschritten auf dem Gebiet des maschinellen Lernens die Besorgnis sprunghaft gestiegen. Wenn die Systeme, die wir zu trainieren versuchen, am Ende nicht das tun, was wir wollen oder erwarten, entstehen ethische und potenziell existenzielle Risiken. Forschende nennen dies das Alignment-Problem.

Systeme sortieren Lebensläufe aus, bis wir Jahre später feststellen, dass sie von Natur aus geschlechtsspezifische Vorurteile aufweisen. Algorithmen entscheiden über Kaution und Bewährung – und scheinen schwarze und weiße Angeklagte unterschiedlich zu beurteilen. Wir können nicht länger davon ausgehen, dass unser Hypothekenantrag oder gar unsere medizinischen Tests von Menschen gesehen werden. Und während autonome Fahrzeuge unsere Straßen mitbenutzen, legen wir unser Leben immer häufiger in ihre Hände.

Die mathematischen und computergestützten Modelle, die diesen Wandel vorantreiben, reichen in ihrer Komplexität von etwas, das sich in einer Tabellenkalkulation abbilden lässt, bis hin zu einem komplexen System, das man durchaus als „künstliche Intelligenz“ bezeichnen könnte. Sie ersetzen nach und nach sowohl menschliches Urteilsvermögen als auch explizit programmierte Software.

In der fesselnden Darstellung des Bestsellerautors Brian Christian lernen wir die „Ersthelfer“ des Alignment-Problems kennen und erfahren von ihrem ehrgeizigen Plan, es zu lösen, bevor wir das Steuer endgültig aus der Hand geben. In einer meisterhaften Mischung aus Geschichte und Reportage vor Ort zeichnet Christian das explosive Wachstum des maschinellen Lernens nach und erkundet dessen weitläufiges Forschungsgebiet. Die Leserinnen und Leser begegnen einer Disziplin, die angesichts begeisternder und mitunter erschreckender Fortschritte gerade erst auf die Beine kommt. Ob sie – und wir – das Alignment-Problem lösen oder scheitern, wird eine prägende Geschichte der Menschheit sein.

The Alignment Problem bietet eine schonungslose Auseinandersetzung mit den Vorurteilen und blinden Flecken der Menschheit, unseren unausgesprochenen Annahmen und oft widersprüchlichen Zielen. Dieses glänzend interdisziplinäre Werk nimmt nicht nur unsere Technologie, sondern auch unsere Kultur kritisch in den Blick – und erzählt eine Geschichte, die abwechselnd erschütternd und hoffnungsvoll ist.