PROVENANCE FIRST: Vertrauen, Rechenschaftspflicht und menschliches Urteilsvermögen im Zeitalter der KI

Künstliche Intelligenz verändert nicht nur, wie Arbeit produziert wird, sondern auch, wie wir entscheiden, ob diese Arbeit unser Vertrauen verdient. In „Provenance First: Trust, Accountability, and Human Judgment in the Age of AI“ argumentiert Rodger P. Hildreth, dass die zentrale Herausforderung generativer KI nicht einfach darin besteht, zu erkennen, ob eine Maschine verwendet wurde. Die wichtigeren Fragen sind: Was hat der Mensch beigetragen? Was hat die Maschine beigetragen? Was wurde überprüft? Welches Urteilsvermögen wurde eingesetzt? Und wer steht hinter dem Ergebnis?

Das Buch schlägt einen Provenienz-First-Ansatz zur Beantwortung dieser Fragen vor. Anstatt sich auf KI-Detektoren, vage Offenlegungserklärungen oder unmögliche Schätzungen darüber zu verlassen, „wie viel“ Arbeit von Menschen oder Maschinen generiert wurde, konzentriert sich die Provenienz auf den Entstehungsprozess selbst.

Hildreth entwickelt Origin System, ein praktisches Framework, das auf drei Funktionen aufbaut:

CAM – legt die Regeln für die Zusammenarbeit zwischen Mensch und KI fest

TRACE – bewahrt aussagekräftige Nachweise über die Entstehung des Werks

ATTEST – identifiziert, wer das Werk prüft und die Verantwortung dafür übernimmt

Im Mittelpunkt des Frameworks steht der Origin Record, eine selektive Aufzeichnung wesentlicher menschlicher und maschineller Beiträge, Überprüfungen, Korrekturen, Genehmigungen und Verantwortlichkeiten.

Das Argument erstreckt sich über Bildung, wissenschaftliche Forschung, Recht, Gesundheitswesen, Regierung und kreative Arbeit. Durchweg betont Hildreth ein ebenso wichtiges Prinzip: Provenienz darf nicht zur Überwachung werden. Das Ziel ist nicht, jeden Prompt, Entwurf oder privaten Gedanken aufzuzeichnen, sondern genügend Beweise zu bewahren, wenn die Konsequenzen das Wissen rechtfertigen.

Provenance First behauptet nicht, dass Provenienz Wahrheit, Qualität, Originalität oder Kompetenz beweist. Ihr Anspruch ist disziplinierter: Bessere Beweise darüber, wie bedeutsame Arbeit entstand, können ein besseres menschliches Urteilsvermögen und eine klarere Rechenschaftspflicht unterstützen.

Da KI in die gewöhnliche intellektuelle Arbeit integriert wird, wird die Frage zunehmend nicht sein, ob KI verwendet wurde, sondern ob wir genug über den Prozess – und die verantwortlichen Personen – wissen, um zu entscheiden, ob das Ergebnis unser Vertrauen verdient.

Diese Version basiert auf dem zentralen Argument, der Terminologie und den Anwendungen des Manuskripts.