Mikkel Freltoft Krogsholm
Menü

A mind, not a brand.

AI · mennesker · fremtidKøbenhavn · Danmark
Essay
8 Min. Lesezeit

Schrödingers KI

Die Fähigkeiten der KI machen Angst und Begeisterung gleichermaßen verständlich. Doch die Technologie erzählt nun selbst an den Geschichten mit, die ihre Zukunft formen.

Mikkel Krogsholm står foran en lukket kasse, der kaster to uforenelige skygger.

Am 1. August veröffentlichte OpenAI zehn neue Ergebnisse aus Mathematik und theoretischer Informatik. Einige von ihnen entschieden alte Vermutungen. Andere verschoben Grenzen, die seit Jahrzehnten unverändert geblieben waren. Die Argumente stammten von einer internen Version des nächsten großen Modells des Unternehmens, Astra, und wurden anschließend in Lean formalisiert, damit ein Computer prüfen konnte, ob die einzelnen Beweisschritte zusammenhielten.

Mitten in der Präsentation stand eine Zahl, die nur schwer zu unseren alten Vorstellungen von Intelligenz passt. OpenAI schätzte, dass die Token, die das Modell zum Finden der Lösungen verbrauchte, zu den eigenen API-Preisen des Unternehmens ungefähr 2.000 Dollar kosten würden.

Das ist nicht der Preis der Forschung insgesamt. Die Zahl sagt nichts darüber aus, was es kostete, das Modell zu entwickeln, die Probleme auszuwählen, die gescheiterten Versuche zu untersuchen oder Menschen die Ergebnisse prüfen und vermitteln zu lassen. Wir wissen auch nicht, wie viele Probleme Astra erfolglos zu lösen versuchte. Trotzdem bleibt etwas Merkwürdiges: Eine Maschine hat Material für Fortschritte in acht mathematischen Gebieten geliefert, und die Rechnung für ihre eigentliche Arbeit lässt sich mit dem Preis eines Gebrauchtwagens vergleichen.

Hätten wir uns früher einen Computer mit solchen Fähigkeiten vorgestellt, hätten wir uns meiner Meinung nach zugleich eine wirtschaftliche Explosion um ihn herum ausgemalt. Eine Maschine, die schreiben, programmieren, analysieren, Gespräche führen und neue mathematische Wege finden kann, hätte nach der alten Logik eine beinahe unvorstellbare Wertmaschine sein müssen.

Die Fähigkeiten sind da. Die wirtschaftliche Explosion ist jedenfalls schwerer zu erkennen. KI hält bereits Einzug in Arbeit, Bildung und Alltag, doch in vielen Unternehmen sieht sie noch immer wie ein Abonnement, ein Versuch oder ein zusätzliches Feld in einem ohnehin verwendeten Programm aus. Zwischen dem, was die Modelle in ihren eindrucksvollsten Demonstrationen können, und dem, was wir bislang in Unternehmen und Institutionen sehen, liegt eine merkwürdige Distanz.

Vielleicht sind die Fähigkeiten zerbrechlicher, als die Demonstrationen sie erscheinen lassen. Vielleicht hat die Gesellschaft noch nicht die Formen gefunden, die sie umsetzen können. Beide Erklärungen können gleichzeitig wahr sein.

Angst und Begeisterung kommen aus derselben Quelle

Halb im Scherz habe ich diese Situation Schrödingers KI genannt.

Im berühmten Gedankenexperiment befindet sich die Katze in einem ungeklärten Zustand, bis die Kiste geöffnet wird. Ich benutze das Bild weniger physikalisch als historisch. Wir haben es mit einer Technologie zu tun, bei der viele radikal verschiedene gesellschaftliche Zukünfte noch immer möglich erscheinen. KI kann mehr Menschen Zugang zu Wissen und Fähigkeiten geben, Forschung beschleunigen und uns bei Problemen helfen, die wir selbst nicht lösen konnten. Sie kann aber auch Macht bündeln, Arbeit ersetzen, Menschen manipulieren und Kontrolle billiger machen.

Es ist verlockend, Angst und Begeisterung als zwei Lager zu betrachten, von denen das eine die Technologie verstanden hat und das andere nicht. Doch beide hängen zusammen. Niemand liegt wegen eines Taschenrechners nachts wach. Er ist nützlich, aber seine Handlungsmöglichkeiten sind klein und durchschaubar. KI macht uns gerade deshalb hoffnungsvoll und ängstlich, weil sie tatsächlich etwas kann. Mit ihren Fähigkeiten wächst sowohl das, was wir gewinnen können, als auch das, was wir verlieren können.

Deshalb hilft es nicht, Angst als Unwissenheit oder Begeisterung als Naivität abzutun. Manchmal sind beide vernünftig. Die Astra-Ergebnisse könnten zum Anfang einer wissenschaftlichen Entdeckungsmaschine werden. Gleichzeitig rücken sie Maschinen in eine Arbeit hinein, die wir mit den höchsten intellektuellen Leistungen des Menschen verbunden haben. Wir schauen auf dasselbe Ergebnis, doch die Geschichte darum herum entscheidet mit darüber, was wir als Nächstes tun.

Der Affe, der mit Geschichten baut

Yuval Noah Harari hat den Menschen oft als geschichtenerzählendes Tier beschrieben. Wir können in riesigen Gruppen zusammenarbeiten, weil wir an Dinge glauben können, die nicht wie Steine und Bäume existieren, aber durch unseren gemeinsamen Glauben und unser Handeln wirklich werden. Geld, Nationen, Unternehmen, Gesetze und Menschenrechte leben nicht auf dieselbe Weise in der Natur wie eine Eiche. Trotzdem können sie das Leben von Millionen Menschen organisieren.

Eine Geschichte muss nicht falsch sein, um so zu funktionieren. Sie gibt etwas eine Richtung, das noch nicht physisch zusammengesetzt ist. Ein Unternehmen beginnt als Vorstellung, dass bestimmte Menschen, Verträge und Konten zusammengehören. Ein Gesetz beginnt als Worte über eine Welt, die morgen anders sein sollte, als sie gestern war. Wenn genügend Menschen nach der Geschichte handeln, bekommt sie Büros, Gerichte, Budgets und Folgen.

Dasselbe geschieht mit Technologie. Wir erzählen nicht erst Geschichten über sie, wenn sie fertig ist. Die Geschichten entscheiden mit darüber, was gebaut wird.

Wird KI vor allem als Helferin erzählt, bauen Unternehmen Produkte, in denen sie Vorschläge macht, während der Mensch entscheidet. Wird sie als digitale Arbeitskraft erzählt, erhält sie Rollen, Systemzugang und Verantwortung für Aufgaben. Wird sie als existenzielle Bedrohung erzählt, bestimmen Grenzen, Kontrolle und internationaler Wettbewerb die Richtung. Jede Geschichte zieht Investitionen, Gesetzgebung, Talente und Aufmerksamkeit auf ihre Seite.

Keine von ihnen muss allein gewinnen. Wir können ohne Weiteres gleichzeitig die Helferin, die Mitarbeiterin und die Waffe bauen. Genau deshalb passt das Schrödinger-Bild weiterhin. Im Modell ist nicht eine einzige gesellschaftliche Folge verborgen, die wir nur noch entdecken müssen. Die Fähigkeiten der KI öffnen ein Feld von Möglichkeiten, und unsere Geschichten helfen dabei, unsere Bewegung durch dieses Feld zu organisieren.

Geschichten können nicht zaubern

In diesem Gedanken liegt eine Versuchung, die ich vermeiden möchte. Wenn Geschichten die Gesellschaft formen, kann es so klingen, als könnten wir einfach eine angenehme Geschichte wählen und dadurch eine angenehme Technologie bekommen. So funktioniert es nicht.

Man kann einem Taschenrechner nicht erzählen, er solle zu einer Bedrohung für die Menschheit werden. Ebenso wenig kann man ein unzuverlässiges Modell zu einer Forscherin erzählen, nur weil die Geschichte inspirierend ist. Die tatsächlichen Fähigkeiten einer Technologie begrenzen, welche Geschichten dauerhafte Kraft gewinnen können. Wenn die Angst vor KI größer ist als die Angst vor anderer Software, hängt das damit zusammen, dass die Modelle bereits Dinge tun, die noch vor wenigen Jahren weit entfernt wirkten.

Umgekehrt kommen die Fähigkeiten nicht mit einer fertigen Gebrauchsanweisung für die Gesellschaft. Eine mathematische Entdeckung sagt uns nicht, wem das Modell gehören, an welchen Problemen es arbeiten oder wie sein Gewinn verteilt werden sollte. Ein Roboter, der einen Menschen versorgen kann, entscheidet nicht selbst, ob er die Zeit einer Pflegekraft freisetzen oder die Pflegekraft ersetzen soll. Die Fähigkeit macht beide Geschichten realistischer. Sie wählt nicht zwischen ihnen.

Geschichten sind also weder Schmuck noch Zauberstaub. Sie wirken innerhalb des Raums, den die Technologie öffnet. Doch in diesem Raum entscheiden sie mit, welche Anwendungen wir normal zu machen versuchen, welche wir verbieten und welche uns gar nicht erst einfallen.

Als die Maschine mitzuerzählen begann

Harari weist auf einen Unterschied zwischen KI und den Medien hin, die unsere Kultur früher verändert haben. Die Druckerpresse konnte ein Buch vervielfältigen, aber nicht selbst ein neues schreiben. Radio und Fernsehen konnten Geschichten in Millionen Haushalte senden, doch Menschen mussten sie weiterhin erschaffen. KI kann verbreiten, umschreiben und erzeugen.

Das bedeutet nicht, dass das Modell eine eigene politische Überzeugung besitzt. Es wurde mit von Menschen geschaffenem Material trainiert, von einem Unternehmen entwickelt, durch Anweisungen gelenkt und von einer Nutzerin oder einem Nutzer in Bewegung gesetzt. Es gibt keinen Grund anzunehmen, dass sich hinter einem flüssigen Text ein innerer Wunsch nach der einen oder anderen Zukunft verbirgt. Trotzdem wirkt das Modell mit, wenn es einer Schülerin erklärt, was KI für ihre Ausbildung bedeuten wird, die Automatisierungsstrategie eines Unternehmens schreibt oder einer Beamtin beim ersten Entwurf der Regeln für KI hilft. Dasselbe Modell kann die Anzeige formulieren, die Überfluss verspricht, und das Katastrophenszenario, das Kontrolle verlangt. Es kann eine hoffnungsvolle, vorsichtige oder beängstigende Zukunft entwerfen und sie an die fragende Person anpassen.

Das ist eine andere Form kultureller Macht als die der Massenmedien. Das Fernsehen konnte Millionen Menschen dieselbe Geschichte zeigen. KI kann Millionen Menschen jeweils eine eigene Version erzählen, geformt nach ihren Fragen, ihrer Sprache und ihren Sorgen. Die gemeinsame Geschichte kann lebendiger werden, aber auch weniger gemeinsam.

Dieser Text selbst ist in diesem merkwürdigen Kreislauf entstanden. Ich begann mit dem Gedanken, dass unsere Ängste und Hoffnungen unseren Blick auf KI formen. Ich warf ihn in ein Gespräch mit einer KI, bekam ihn in anderer Form zurück, korrigierte ihn, wenn er zu glatt wurde, und folgte den Verbindungen weiter zu Harari, Astra und Schrödingers Katze.

Die KI entscheidet nicht, was ich meine, und die Verantwortung für den Text liegt bei mir. Es wäre aber künstlich zu behaupten, sie sei nur eine passive Schreibmaschine gewesen. Sie hat an der Entwicklung einer Geschichte darüber mitgewirkt, was KI werden kann. Während ich über die Technologie als Miterzählerin schreibe, sitzt die Miterzählerin bereits auf der anderen Seite des Gesprächs.

In der Kiste

Wir möchten wissen, welche KI-Zukunft die richtige ist, bevor wir handeln. Ob wir begeistert oder ängstlich sein sollten. Ob die Maschinen zu Werkzeugen, Kolleginnen, Konkurrentinnen, Machthaberinnen oder zu etwas werden, für das wir noch kein Wort haben.

Wir wissen es nicht. Astras mathematische Ergebnisse entscheiden es nicht. Die ausgebliebene wirtschaftliche Explosion entscheidet es ebenfalls nicht. Sie sagen uns lediglich, dass sich Fähigkeiten und gesellschaftliche Wirkung nicht im selben Tempo bewegen und dass mehrere Ausgänge noch lebendig sein können.

Schrödingers Kiste steht deshalb nicht als geschlossener Behälter vor uns, den wir eines Tages öffnen und in den wir hineinsehen können. Wir sind bereits in ihr. Jede Investition, jede Regel, jede Produktentscheidung und jede alltägliche Nutzung verändert ein wenig von dem, was gerade Form annimmt.

Und nun sitzt die Technologie mit uns hier drinnen und hilft dabei, die Geschichten zu erzählen.

Quellen und weiterführende Lektüre