# Eine Welt, die niemand verstanden hat KI kann überprüfte Ergebnisse schneller erzeugen, als Menschen sie verstehen. Was geschieht, wenn wir weiterbauen, ohne auf das Verständnis zu warten? - Forfatter: Mikkel Freltoft Krogsholm - Type: Essay - Udgivet: 2026-10-09 - Opdateret: 2026-10-09 - Sprog: de - Emner: ki, wissen, verständnis, wissenschaft, singularität - Kanonisk URL: https://mikkelkrogsholm.dk/de/articles/en-verden-ingen-har-forstaaet/ --- Wenn ich einen Raspberry Pi dazu bringen will, Nachrichten über das Mobilfunknetz zu senden, muss ich nicht damit anfangen, den Bau eines Radios zu lernen. Ein Raspberry Pi ist ein kleiner Computer, den man für alles Mögliche verwenden kann: von einem selbst gebauten Messgerät bis zur Steuerung von Dingen im Haus. Ich kann eine zusätzliche Platine mit einem Mobilfunkmodul kaufen, sie an den Computer anschließen, eine SIM-Karte einsetzen und der Anleitung folgen. Dann kann mein kleines Projekt ohne einen gewöhnlichen Internetanschluss online gehen. Ich muss etwas über Stromversorgung, Anschlüsse und die Befehle wissen, die das Modul zum Senden bringen. Aber ich muss nicht alle Berechnungen und elektrischen Schaltungen verstehen, die die Kommunikation mit einem Mobilfunkmast ermöglichen. Wenn es nicht funktioniert, prüfe ich die Verbindung, die Antenne, die Stromversorgung und die Einstellungen. Ich promoviere nicht erst über Radiowellen. Das ist eine ganz gewöhnliche Art, etwas zu bauen. Ich kann etwas verwenden, weil andere die komplizierte Arbeit erledigt und in ein Bauteil verpackt haben, das ich mit anderen Bauteilen verbinden kann. Und doch liegt meinem Vertrauen eine Vorstellung zugrunde: Das Verständnis existiert irgendwo. Es gibt Menschen, die wissen, wie das Modul konstruiert ist. Andere verstehen die Regeln des Mobilfunknetzes. Keiner von ihnen muss mein gesamtes Projekt verstehen, und keiner muss alle Ebenen im Kopf haben. Aber wenn wir die Verbindungen weit genug zurückverfolgen, stoßen wir auf menschliches Können. Was geschieht, wenn wir eines Tages denselben Weg zurückgehen und niemanden finden? ## Wir bauen schon heute, ohne alles zu verstehen Unsere Gesellschaft funktioniert, weil nicht jeder von uns von vorn anfangen muss. Wer ein Haus baut, muss die Dämmung nicht selbst entwickelt haben. Wer eine Tabellenkalkulation benutzt, muss nicht wissen, wie der Computer Zahlen in seinen Schaltungen darstellt. Selbst ein guter Chirurg kann nicht unbedingt alle Komponenten des Geräts erklären, das den Patienten während einer Operation überwacht. Das ist kein Mangel der Zivilisation. Es ist eine ihrer größten Leistungen. Wir haben spezialisiertes Können zu etwas gemacht, das andere nutzen können. Das Verständnis ist auf Menschen, Fachgebiete und Generationen verteilt. Ein Teil steht in Büchern und Zeichnungen. Ein anderer steckt in der Erfahrung des Technikers, der hört, dass eine Maschine falsch klingt. Wir stützen uns auf weit mehr, als jeder von uns allein weiß. Deshalb ist es auch nicht schon an sich ein Bruch, wenn KI etwas erzeugt, das ich nicht verstehe. Das können fast alle Menschen mit einem anderen Fachgebiet als meinem ebenfalls. Interessant wird der Unterschied, wenn KI ein Ergebnis schafft, mit dem sich noch kein Mensch beschäftigt hat, und dieses Ergebnis trotzdem zu einem brauchbaren Baustein wird. Ich kann es weiterhin mit meinem Projekt verbinden. Es kann weiterhin die relevanten Prüfungen bestehen. Aber das Verständnis, von dem ich früher annahm, dass es bei anderen vorhanden sei, ist noch nicht entstanden. Wir sind daran gewöhnt, Verständnis zu delegieren. Vielleicht bewegen wir uns darauf zu, in Teilen dessen, was wir bauen, auch darauf zu verzichten. ## Vom Lesen des Codes zum Erproben Wenn KI ein Programm schreibt, kann man die Anweisungen Zeile für Zeile lesen. Man kann das Programm auch ausführen und untersuchen, was es tut. Wird der richtige Preis angezeigt? Erhält der richtige Nutzer Zugang? Was passiert, wenn die Internetverbindung mitten in einer Zahlung abbricht? Die beiden Formen der Kontrolle zeigen unterschiedliche Dinge. Dass ein Programm einen Test besteht, garantiert nicht, dass es in jeder Situation korrekt ist. Es bedeutet aber auch nicht, dass ein Mensch jede einzelne Anweisung lesen muss, um es verantwortungsvoll zu verwenden. So arbeiten wir bereits mit großen Mengen an Software, die andere Menschen geschrieben haben. KI macht den Unterschied deutlicher. Wenn die Maschine mehr Code schreiben kann, als wir lesen können, wird es verlockend, beim Verhalten anzusetzen und erst dann ins Detail zu gehen, wenn etwas es erfordert. In [*Wenn Code nicht mehr die Sprache des Menschen ist*](https://mikkelkrogsholm.dk/da/articles/naar-kode-ikke-laengere-er-menneskets-sprog/) habe ich untersucht, wie sich die Arbeit der Maschine zurück in etwas übersetzen lässt, das Menschen verstehen können. Der Code braucht einen menschlichen Zugang, auch wenn wir nicht alles lesen. Aber selbst eine gute Erklärung braucht Zeit, um verstanden zu werden. Wenn aus zehn Änderungen zehntausend werden, kann die Maschine jede einzelne hervorragend erklären, ohne dass Menschen noch mithalten können. Diese Begrenzung liegt nicht daran, dass der Code unlesbar wäre. Sie liegt daran, dass es zu viel davon gibt. Es lohnt sich, diesen Gedanken aus der Software in die Wissenschaft mitzunehmen. ## 719 Manuskripte und eine Warteschlange von Menschen Am 6. Oktober veröffentlichte OpenAI ein [Repository mit mathematischen Manuskripten](https://github.com/openai/math) — eine öffentliche Sammlung von Dokumenten und zugehörigem Material. Der Katalog nennt 719 Manuskripte in 372 Gruppen verwandter Ergebnisse, die von einem internen, noch nicht veröffentlichten KI-Modell erzeugt wurden. Das ist nicht dasselbe wie 719 vollständig überprüfte Durchbrüche. Die Ergebnisse befinden sich in unterschiedlichen Stadien der Prüfung. OpenAI hat bereits [drei Manuskripte zurückgezogen](https://github.com/openai/math/blob/main/history.md), weil ein Vorzeichenfehler ein Argument zunichtemachte, auf dem andere Ergebnisse aufbauten. Zugleich gibt das Unternehmen an, dass 300 der 719 Hauptergebnisse in Lean formalisiert wurden. In diesem Werkzeug werden mathematische Aussagen und Beweise so präzise formuliert, dass ein Computer prüfen kann, ob die Schlussfolgerung aus den Definitionen und Voraussetzungen folgt. Das ist etwas anderes, als ein Programm auszuprobieren und zu sehen, ob es in einigen ausgewählten Situationen funktioniert. Ein formaler Beweis kann eine Aussage für alle Fälle begründen, die sie umfasst. Mathematiker müssen weiterhin untersuchen, ob die präzise Aussage dem Problem entspricht, das angeblich gelöst wurde, und was das Ergebnis bedeutet. Die Formalisierung ist deshalb ein echter Gewinn. Wir sollten das langsame Lesen des Menschen nicht zum einzigen akzeptablen Weg zur Gewissheit machen, wenn wir stärkere Kontrollen schaffen können. Aber wir können die Gültigkeit eines Arguments überprüfen, ohne damit schon das Verständnis zu haben, das uns erlaubt, es zu erklären, seine Möglichkeiten zu erkennen oder einen einfacheren Weg zum selben Ergebnis zu finden. Ein Beweis kann fertig vorliegen. Die Arbeit, daraus menschliche Einsicht zu machen, kann noch ausstehen. In [*KI findet die Verbindungen, die wir übersehen*](https://mikkelkrogsholm.dk/da/articles/ai-finder-de-forbindelser-vi-overser/) habe ich einen fruchtbaren Kreislauf beschrieben: KI findet einen neuen Weg, Menschen verstehen und verbessern ihn, und KI arbeitet vom neuen Ausgangspunkt aus weiter. Dieser Kreislauf setzt aber voraus, dass Menschen zum Verstehen kommen, bevor die Arbeit weitergeht. ## Selbst wenn alles richtig wäre Es ist leicht, die Wissensproduktion der KI zu einer Frage von Fehlern zu machen. Die Maschine schreibt viel, einiges davon ist falsch, und Menschen haben alle Hände voll damit zu tun, es auszusortieren. Das ist ein wichtiges Problem. Aber stellen wir uns einen Moment lang vor, dass wir bei der Kontrolle viel besser werden. Dass viele Ergebnisse tatsächlich stimmen. Dass Maschinen mehr ihrer eigenen Argumente und der Argumente anderer Maschinen prüfen können und dass Versuche neue Vorhersagen bestätigen. Dann ist menschliches Verständnis immer noch ein möglicher Engpass. Eine Forscherin kann durchaus in der Lage sein, einen neuen Beweis zu verstehen, und dafür drei Monate brauchen. Wenn in denselben drei Monaten tausend neue Ergebnisse in ihrem Fachgebiet erscheinen, reicht ihre Fähigkeit, das einzelne Ergebnis zu verstehen, nicht aus, um mit der Entwicklung Schritt zu halten. Mehr Forscher können sich die Arbeit teilen. KI kann mit Erklärungen, Beispielen und kürzeren Beweisen helfen. All das kann einen enormen Unterschied machen. Es gibt nur kein Naturgesetz, nach dem das Verständnis der Menschen ebenso schnell wachsen wird wie die Produktion und Kontrolle der Maschinen. In [*Wissensexplosion*](https://mikkelkrogsholm.dk/da/articles/videnseksplosion/) habe ich über den Unterschied zwischen dem Aufstellen von Hypothesen und ihrer Überprüfung geschrieben. Aber es gibt noch einen Unterschied: Ein Ergebnis kann überprüft sein, ohne dass Menschen es zu ihrem eigenen Verständnis gemacht haben. Wenn KI das Ergebnis auch als Ausgangspunkt für die nächste Entdeckung verwenden kann, kann eine Forschungskette entstehen, in der die menschliche Arbeit des Verstehens ständig hinterherkommt. Wir bekommen nicht bloß mehr Artikel zu lesen. Wir bekommen Neues zu lesen, das bereits auf anderem Neuen aufbaut, das wir ebenfalls noch nicht verstehen konnten. Das ist eine andere Form der Distanz als gewöhnliche Spezialisierung. Spezialisierung verteilt die Arbeit auf Menschen. Hier kann ein Teil der Arbeit weitergehen, bevor irgendein Mensch das Verständnis übernommen hat. ## Verständnis ist mehr als eine Freigabe Es gibt guten Grund, sich über diese Möglichkeit zu freuen. Wir könnten Materialien bekommen, die Batterien verbessern, Rechenverfahren, die Forschung günstiger machen, oder Behandlungen, die Patienten helfen. Dass ein Glied im menschlichen Verständnis fehlt, macht ein Ergebnis nicht automatisch wertlos. Wenn eine Behandlung gründlich erprobt wurde und hilft, ist es nicht die Aufgabe des Patienten, auf die vollständige Erklärung all ihrer Mechanismen zu warten. Aber ein Mobilfunkmodul muss mehr können, als eine einzelne Nachricht auf meinem Tisch zu senden. Es muss auch unter bestimmten Bedingungen einsetzbar sein. Wie viel Strom braucht es? Mit welchen Netzen kann es kommunizieren? Was kann die Verbindung zum Scheitern bringen? Das Verständnis hilft uns, die richtigen Prüfungen zu wählen und zu bemerken, wenn wir den Bereich verlassen, in dem wir Grund haben, dem Ergebnis zu vertrauen. Es hilft auch, wenn wir etwas verändern wollen. Eine Platine, die funktioniert, ist das eine. Sie reparieren oder eine bessere Version bauen zu können, verlangt mehr. KI kann uns möglicherweise bei all diesen Aufgaben helfen. Sie kann auch die Einzige werden, die die Verbindung zwischen ihnen nachvollziehen kann. Dann können wir zugleich mehr Handlungsfähigkeit und weniger Selbstständigkeit gewinnen: Mehr Dinge werden möglich, aber wir werden stärker von der Maschine abhängig, um zu wissen, was wir verändern können. Die unabhängige [Beratergruppe AGMAI](https://agmai.org/general-sep29/) unterscheidet genau zwischen KI-Ergebnissen, die Menschen verstehen, und Ergebnissen, die noch niemand verstanden hat. Die Gruppe empfiehlt, dass die Labore die Arbeit am menschlichen Verständnis auch finanziell unterstützen und dass diese Arbeit von wissenschaftlichen Gemeinschaften statt von den Laboren selbst geleitet wird. OpenAI hat [Unterstützung für Workshops, Konferenzen und Programme angekündigt](https://openai.com/index/sharing-ai-progress-in-mathematics/), die helfen sollen, die Ergebnisse zu verstehen. Es müssen also weiterhin Menschen zusammenkommen, um sich mit den Argumenten zu beschäftigen. Kontrolle und Verständnis sind verwandte Aufgaben, aber nicht dieselbe. ## Die Singularität auf einer kleinen Platine Die Singularität wird oft als gewaltiger Moment vorgestellt: Die Maschine wird so intelligent, dass der Mensch ihren Gedanken nicht mehr folgen kann, und die Welt dahinter wird für uns unvorhersehbar. Ich denke, dass es auch einen alltäglicheren Weg dorthin geben könnte. Dafür muss das einzelne Ergebnis nicht unverständlich werden. Wir können weiterhin einen Beweis aus der Sammlung nehmen und uns damit vertraut machen. So wie wir ein Programm öffnen und einen Teil des Codes lesen können. Aber währenddessen geht die Arbeit anderswo weiter, und das Verständnis spielt eine immer kleinere Rolle als Eintrittskarte zum nächsten Schritt. Wir überprüfen, verbinden und bauen weiter. Es funktioniert. Wir brauchen es. Es kommt mehr. Das Mathematik-Repository zeigt nicht, dass wir eine solche Grenze bereits überschritten haben. Aber es erlaubt eine präzisere Frage als die, wann KI klüger wird als wir: Wann beginnt sich die Welt durch Ergebnisse zu verändern, die Menschen noch nicht verstanden haben und auf deren Verständnis wir nicht warten? Wenn ich ein Mobilfunkmodul an meinen Raspberry Pi anschließe, muss ich die Funktechnik nicht selbst erklären können. Das ist eine Freiheit, die ich durch die Arbeit anderer Menschen gewonnen habe. Eines Tages kann ich mit einem ebenso kleinen Bauteil dastehen, es anschließen und sehen, wie die Verbindung zustande kommt. Es ist erprobt. Es kann, was ich brauche. Ich kann weiterbauen. Aber wenn ich seine Konstruktion zurückverfolge, kann ich bei einem Ergebnis ankommen, das noch kein Mensch verstanden hat. Und die nächste Version des Moduls kann bereits unterwegs sein.