Das Alignment-Problem: Maschinelles Lernen und menschliche Werte

"Wenn Sie ein Buch über künstliche Intelligenz lesen wollen, dann dieses." ―Stephen Marche, New York Times

Eine atemberaubende Erkundung all dessen, was schiefläuft, wenn wir KI-Systeme bauen, und die Bewegung, die sie beheben will.

Die heutigen „maschinellen Lernsysteme“, die mit Daten trainiert werden, sind so effektiv, dass wir sie eingeladen haben, für uns zu sehen und zu hören – und Entscheidungen in unserem Namen zu treffen. Doch die Alarmglocken schrillen. In den letzten Jahren hat sich mit dem Fortschreiten des maschinellen Lernens eine Welle der Besorgnis breitgemacht. Wenn die Systeme, die wir zu lehren versuchen, letztendlich nicht das tun, was wir wollen oder erwarten, entstehen ethische und potenziell existenzielle Risiken. Forscher nennen dies das Alignment-Problem.

Systeme durchforsten Lebensläufe, bis wir Jahre später entdecken, dass sie inhärente geschlechtsspezifische Vorurteile aufweisen. Algorithmen entscheiden über Kaution und Bewährung – und scheinen schwarze und weiße Angeklagte unterschiedlich zu beurteilen. Wir können nicht länger davon ausgehen, dass unser Hypothekenantrag oder sogar unsere medizinischen Tests von menschlichen Augen geprüft werden. Und da autonome Fahrzeuge unsere Straßen teilen, legen wir unser Leben zunehmend in ihre Hände.

Die mathematischen und rechnerischen Modelle, die diese Veränderungen antreiben, reichen in ihrer Komplexität von etwas, das auf eine Tabellenkalkulation passt, bis zu einem komplexen System, das glaubwürdig als „künstliche Intelligenz“ bezeichnet werden könnte. Sie ersetzen stetig sowohl menschliches Urteilsvermögen als auch explizit programmierte Software.

In der fesselnden Darstellung des Bestsellerautors Brian Christian treffen wir auf die „Ersthelfer“ des Alignment-Problems und erfahren ihren ehrgeizigen Plan, es zu lösen, bevor wir das Steuer vollständig aus der Hand geben. In einer meisterhaften Mischung aus Geschichte und Vor-Ort-Berichterstattung zeichnet Christian das explosive Wachstum im Bereich des maschinellen Lernens nach und beleuchtet dessen aktuelles, weitläufiges Terrain. Die Leser begegnen einer Disziplin, die inmitten eines berauschenden und manchmal erschreckenden Fortschritts ihre ersten Schritte macht. Ob sie – und wir – bei der Lösung des Alignment-Problems erfolgreich sein oder scheitern werden, wird eine prägende menschliche Geschichte sein.

„Das Alignment-Problem“ setzt sich schonungslos mit den Vorurteilen und blinden Flecken der Menschheit, unseren eigenen unausgesprochenen Annahmen und oft widersprüchlichen Zielen auseinander. Als schillernd interdisziplinäres Werk beleuchtet es nicht nur unsere Technologie, sondern auch unsere Kultur – und findet eine Geschichte, die abwechselnd erschütternd und hoffnungsvoll ist.