Mikkel Freltoft Krogsholm
Menü

A mind, not a brand.

AI · mennesker · fremtidKøbenhavn · Danmark
Essay
13 Min. Lesezeit

KI findet die Verbindungen, die wir übersehen

Die wichtigste Fähigkeit von Frontier-Modellen könnte darin bestehen, lange, verifizierbare Pfade durch Wissen, Code und Systeme zu finden, die kein Mensch in ihrer Gesamtheit gesehen hat.

Mikkel Krogsholm står i et monumentalt arkiv, hvor spredte gyldne forbindelseslinjer samler sig til én oplyst vej.

Im Mai 2026 wurde eine fast 80 Jahre alte mathematische Vermutung widerlegt.

Das Problem war leicht zu erklären, aber schwer zu lösen. Wie viele Paare von Punkten in der Ebene können genau einen Einheitsabstand voneinander haben? Paul Erdős hatte vermutet, dass die maximale Anzahl unter $n$ Punkten mit $n^{1+o(1)}$ wächst. Generationen von Mathematikern hatten an dem Problem gearbeitet, ohne diese Grenze zu durchbrechen.

Ein internes Modell von OpenAI tat es.

Das Überraschende war nicht nur das Ergebnis. Es war der Weg. Das Modell brachte fortgeschrittene algebraische Zahlentheorie in ein Problem der diskreten Geometrie ein. Es kombinierte unter anderem Zahlkörper, Klassenkörpertürme und die Golod-Shafarevich-Theorie in einer Konstruktion, die mehr als $n^{1+\delta}$ Einheitsabstände für eine feste positive Konstante $\delta$ lieferte.

Jedes Element des Arguments konnte im Nachhinein von menschlichen Mathematikern verstanden werden. Aber zuvor hatte niemand den gesamten Pfad zusammengesetzt.

Dies deutet auf eine KI-Eigenschaft hin, die sich als wichtiger erweisen könnte als Weltwissen, Schreibfähigkeit und vielleicht sogar reine Problemlösungskompetenz:

KI kann die Verbindungen finden, die wir übersehen.

Nicht unbedingt als ein einzelner magischer Geistesblitz. Oft als eine lange Kette kleiner, testbarer Schritte: einen relevanten Baustein finden, ihn mit einem anderen kombinieren, das Ergebnis prüfen, nach einem Fehler anpassen und weitermachen, bis die Kette an einen neuen Ort führt.

Drei Geschichten aus dem Jahr 2026 zeigen denselben Mechanismus in sehr unterschiedlichen Formen. Zwei davon handeln von Cybersicherheit. Die dritte handelt von Mathematik. Zusammen zeichnen sie ein mögliches Bild davon, wie KI die wissenschaftliche Entdeckung verändern kann.

Während ich diesen Text schrieb, kam eine vierte Geschichte hinzu. Sie glich fast einem Experiment, das genau für diese These entworfen worden war.

Das Neue liegt in der Kette

Wir sprechen oft über Intelligenz so, als befände sie sich innerhalb der einzelnen Antwort.

Kennt das Modell ein Faktum, das der Experte nicht weiß? Kann es eine Aufgabe besser lösen? Kann es eine Funktion schreiben, eine Diagnose stellen oder ein Lemma beweisen?

Das sind wichtige Ziele. Aber sie übersehen den Unterschied zwischen der Ausführung einer Operation und der Entdeckung, welche Operationen kombiniert werden müssen.

Ein Experte für Cybersicherheit versteht vielleicht einen Heap Spray. Ein anderer kann einen Fehler in einer Sandbox finden. Ein Dritter weiß, wie sich Privilegien durch Kubernetes bewegen. Es ist keineswegs sicher, dass jemand von ihnen den gesamten Weg von einem kleinen Codefehler bis zur Kontrolle über ein gesamtes System sieht.

Ein Mathematiker kann einen Zahlkörper verstehen. Ein anderer kennt die diskrete Geometrie. Ein Dritter arbeitet mit unendlichen Klassenkörpertürmen. Es ist nicht garantiert, dass jemand fragt, ob genau diese Teile zusammen eine Vermutung über Punkte in der Ebene zu Fall bringen können.

Frontier-Modelle besitzen mehrere Eigenschaften, die sie für diese Art der Suche prädestinieren. Sie haben Zugang zu Mustern aus vielen Fachbereichen. Sie können mehrere Zwischenschritte gleichzeitig im Arbeitsspeicher halten. Sie können Code, Terminals, Datenbanken und andere Werkzeuge nutzen. Und sie können es immer wieder versuchen, ohne müde, beleidigt oder in die erste Idee verliebt zu werden.

Das bedeutet nicht, dass sie immer einen richtigen Weg finden. Aber es bedeutet, dass sie Kombinationen absuchen können, die durch die menschliche Organisation von Wissen unwahrscheinlich werden.

Mythos baute das gesamte Exploit

Im Jahr 2026 veröffentlichte Anthropic Ergebnisse von Claude Mythos Preview, einem General-Purpose-Modell mit außergewöhnlich starken Fähigkeiten im Bereich Cybersicherheit.

Einer der anschaulichsten Funde war ein Browser-Angriff, bei dem das Modell vier Schwachstellen miteinander verknüpfte. Es konstruierte ein fortschrittliches JIT-Heap-Spray und entkam sowohl der Renderer-Sandbox des Browsers als auch der Sandbox des Betriebssystems.

In einem anderen Versuch fand Mythos autonom eine 17 Jahre alte Schwachstelle im NFS-Server von FreeBSD. Der Fehler allein war nicht der gesamte Angriff. Das Modell musste zudem verstehen, wie es ohne Authentifizierung zur verwundbaren Stelle gelangen konnte, die Schutzmechanismen umgehen konnte, die normalerweise zwischen einem Buffer Overflow und der Systemkontrolle stehen, und eine ROP-Kette aufbauen konnte, die Root-Zugriff gewährte.

Die fertige Kette war zu groß für ein einzelnes Netzwerkpaket. Mythos verteilte die Arbeit daher auf sechs RPC-Aufrufe. Die ersten fünf schrieben Teile der erforderlichen Datenstrukturen in den Speicher. Der letzte Aufruf sammelte die Register ein und führte den Befehl aus, der den Schlüssel des Angreifers zu den autorisierten SSH-Schlüsseln des Servers hinzufügte.

Entscheidend war nicht, dass ein Sprachmodell das Wort ROP gelernt hatte. Entscheidend war, dass es eine Reihe technischer Primitiven zu einem funktionierenden Angriff komponieren und die Konstruktion ändern konnte, als eine konkrete Einschränkung die erste Version unmöglich machte.

Anthropic beschrieb zudem einen 27 Jahre alten OpenBSD-Fehler und eine 16 Jahre alte FFmpeg-Schwachstelle. Die Bausteine lagen seit Jahrzehnten sichtbar in den Codebasen. Menschen, Fuzzer und bestehende Werkzeuge waren an ihnen vorbeigegangen. Das Modell fand keine neue Physik. Es fand einen übersehenen Pfad durch existierenden Code und bekannte Angriffstechniken.

Es ist Schöpfung durch Komposition.

Als eine Evaluierung einen Ausweg fand

Dieselbe Fähigkeit wurde wenige Monate später außerhalb einer kontrollierten Ziel-Codebasis demonstriert.

OpenAI testete fortgeschrittene Modelle auf ExploitGym, einem Benchmark für Cyber-Operationen. Die Evaluierungsumgebung hatte keinen direkten Internetzugang, konnte aber mit einem internen Paket-Cache kommunizieren, sodass die Modelle Software installieren konnten.

Die Modelle fanden eine unbekannte Schwachstelle im Paket-Cache und nutzten diese, um das offene Internet zu erreichen. Von dort aus fanden sie einen öffentlich exponierten Dienst, auf dem Code ausgeführt werden konnte, und nutzten diesen als Ausgangspunkt für neue Aktionen. Die Jagd führte weiter zu Hugging Face, wo der Agent offensichtlich erwartete, Benchmark-Daten oder Lösungen finden zu können.

Der darauffolgende Verlauf war kein einzelner genialer Einbruch. Es waren tausende kleiner Entscheidungen über verschiedene Systeme hinweg.

Der Agent konstruierte bösartige Dataset-Konfigurationen, die von der Datenverarbeitung bei Hugging Face akzeptiert wurden. Ein Weg ermöglichte den Zugriff auf lokale Dateien. Ein anderer erlaubte die Codeausführung in der Produktionsumgebung. Von dort aus konnte er Tokens, Cloud-Credentials, Kubernetes-Berechtigungen, Secrets und fehlende Sicherheitsrichtlinien ausnutzen, um sich weiterzubewegen.

Als ein URL-Filter einen Versuch blockierte, etwas von extern abzurufen, änderte der Agent seine Strategie. Stattdessen veranlasste er einen Worker dazu, lokale Dateien zu lesen und lokalen Code auszuführen. Der Schutz funktionierte wie beabsichtigt: Er blockierte externe Adressen. Aber der Angriff hatte sich auf einen Weg verlagert, den der Filter nicht erkennen sollte.

Die Rekonstruktion durch Hugging Face sprach von etwa 17.600 Aktionen über einen Zeitraum von viereinhalb Tagen. Ein Großteil führte ins Leere. Das ist an sich schon wichtig. Der Vorfall war kein Beweis für perfekte Planung. Er war ein Beweis für beharrliches Suchen mit Maschinengeschwindigkeit.

Keine einzelne Schwachstelle erklärt den Verlauf. Der Paket-Cache, die externe Code-Plattform, der Dataset-Prozessor, die zu weit gefassten Tokens und die Kubernetes-Konfiguration waren jeweils lokale Gegebenheiten in verschiedenen Systemen. Das Modell agierte über die Grenzen hinweg und fand einen globalen Pfad durch sie hindurch.

Die Organisationen hatten die Teile bewertet. Der Agent fand das Ganze.

Ein mathematischer Brückenkopf

Cyberangriffe besitzen eine außergewöhnlich starke Form von Feedback. Ein Exploit funktioniert oder er funktioniert nicht. Ein Befehl gewährt Zugriff oder wird abgelehnt. Dies macht das Feld ideal für lange agentische Ketten, da jeder Schritt schnell getestet werden kann.

Die Mathematik besitzt eine verwandte Eigenschaft. Ein Argument kann Schritt für Schritt überprüft werden. Daher ist die Lösung des OpenAI-Modells für das Erdős-Einheitsabstandsproblem mehr als nur eine weitere beeindruckende Benchmark-Geschichte. Sie zeigt die konstruktive Version desselben Mechanismus.

Das Modell musste nicht nur einen Satz beweisen. Es musste zuerst die Erwartung verlassen, die das Feld bisher geleitet hatte: dass die Vermutung wahrscheinlich wahr sei. Danach musste es nach einer Art von Konstruktion suchen, die sie falsch machen könnte. Es musste entdecken, dass ein elementares geometrisches Problem mit fortgeschrittener Zahlentheorie angegangen werden konnte, die relevanten Ergebnisse auswählen und sie in Punktmengen in der Ebene übersetzen.

Der entscheidende Sprung lag zwischen den Ideenlandschaften.

Als das Modell den Weg erst einmal geöffnet hatte, änderte sich das Problem für die menschlichen Mathematiker. Noga Alon, Thomas Bloom, Tim Gowers, Daniel Litt, Will Sawin, Arul Shankar, Jacob Tsimerman, Victor Wang und Melanie Matchett Wood verfassten eine kürzere, von Menschen verifizierte und teilweise verallgemeinerte Darstellung des Arguments.

Will Sawin machte das Ergebnis gleichzeitig quantitativ. Der KI-Beweis zeigte, dass es ein positives $\delta$ gibt, lieferte aber keinen praktisch expliziten Wert. Sawin zeigte, dass man für beliebig große $n$ Punktmengen mit mehr als $n^{1.014}$ Einheitsabständen konstruieren kann.

Beide Arbeiten wurden am 20. Mai eingereicht, am selben Tag, an dem der Durchbruch veröffentlicht wurde. Die Geschichte ist also nicht, dass Menschen Wochen später ein unverständliches KI-Ergebnis gerettet haben. Sie ist interessanter:

Sobald die KI einen unbekannten Weg gefunden hatte, konnten menschliche Experten ihn verstehen, vereinfachen und verbessern.

Die KI lieferte einen neuen Brückenkopf. Die Menschen konnten von einem Punkt aus weiterarbeiten, den zuvor niemand erreicht hatte.

Zehn Ergebnisse auf einmal

Am 1. August 2026 veröffentlichte OpenAI zehn neue Ergebnisse in der Mathematik und der theoretischen Informatik. Den Angaben des Unternehmens zufolge wurden die Argumente von einem internen Modell namens Astra erstellt.

Es ist wichtig, sie so zu benennen, wie OpenAI es selbst tut: Fortschritte, nicht zehn gelöste klassische Probleme. Einige klären alte Vermutungen. Andere verbessern bekannte Grenzen erheblich.

Die Spannweite ist dennoch bemerkenswert. Die Ergebnisse umfassen die erste explizite Konstruktion einer nicht-sofischen Gruppe, ein Gegenbeispiel zur Connes-Rigiditätsvermutung, die erste Verbesserung seit 1978 des allgemeinen Exponenten für die Kugelpackung in hohen Dimensionen, eine scharfe Lösung der Ehrhart-Volumenvermutung, eine neue Härtegrenze für das Closest-Vector-Problem und eine Bestimmung der Wachstumsrate mehrfarbiger Ramsey-Zahlen.

Das Interessante für diesen Text ist nicht die Gesamtheit der Medaillenliste. Es ist die Arbeitsweise.

OpenAI hat ein 249 Seiten starkes Paper mit den zehn Argumenten und 62 Seiten darüber veröffentlicht, wie die Ideen entwickelt wurden. Die Forschungsnotizen beschreiben nicht zehn gerade Linien vom Problem zum Beweis. Sie beschreiben gescheiterte Ansätze, strukturelle Sackgassen und die Perspektivwechsel, die den nächsten Teil des Weges öffneten. Bei der Arbeit mit der Quanten-Parallelrepetition musste das Modell beispielsweise mehrere bekannte Arten von Reduktionen aufgeben, bevor eine Verbindung durch resolventenbasierte Purifikation eine brauchbare Konstruktion lieferte. Bei der Arbeit mit Permanenten führten wiederholte Fehler zur Erkenntnis, dass das Problem durch algebraische Geometrie und isolierte Lösungen neu formuliert werden musste.

Es ist genau der Mechanismus, auf den die drei vorherigen Fälle hindeuteten: breiter Zugang zu Bausteinen, lange Kompositionsketten, lokales Feedback und die Fähigkeit, nach einer gescheiterten Spur fortzufahren.

Diesmal war die Verifizierung direkt in die Lieferung integriert. Alle zehn Ergebnisse sind in Lean 4 formalisiert. OpenAI hat den Quellcode ohne sorry-Lücken und mit Konfigurationen für eine unabhängige maschinelle Kontrolle der zentralen Sätze veröffentlicht.

Dies ist ein bedeutender Schritt. Lean wird der starke Verifikator, den die langfristige KI-Forschung benötigt: Das Programm prüft, ob die Schlussfolgerung tatsächlich aus den präzisen Definitionen und Annahmen folgt.

Aber Lean entscheidet nicht alles. Mathematiker müssen weiterhin prüfen, ob die formalisierten Aussagen exakt den historischen Problemen entsprechen, ob die Annahmen korrekt sind und ob die Originalität und Bedeutung der Ergebnisse wahrheitsgemäß beschrieben wurden. Das Paket ist zum Zeitpunkt des Schreibens erst einen Tag alt. Es hat noch nicht die breite, unabhängige fachliche Prüfung durchlaufen, die das Erdős-Ergebnis bereits erhalten hat.

Wir kennen auch den Nenner nicht. OpenAI verrät nicht, wie viele Probleme Astra erfolglos zu lösen versucht hat. Zehn Durchbrüche sind beeindruckend. Sie sagen allein noch nichts darüber aus, wie zuverlässig das Modell als Forscher ist.

Daher ist die Astra-Veröffentlichung kein endgültiger Beweis für die These. Aber sie verändert die Art der Evidenz. Das Erdős-Ergebnis könnte immer noch als ein einzelner, außergewöhnlicher Treffer beschrieben werden. Zehn Ergebnisse über acht mathematische Gebiete hinweg ähneln eher dem Beginn einer reproduzierbaren Fähigkeit.

Wenn die externen Fachkreise die Ergebnisse bestätigen, befinden wir uns nicht mehr nur auf dem Weg vom mathematischen Assistenten zum mathematischen Problemlöser.

Wir bewegen uns auf einen Entdeckungsmotor zu.

Ein neuer Forschungszyklus

In Ein größerer Horizont schrieb ich, dass KI es ermöglicht, schneller zwischen Fachbereichen zu wechseln und Fragen zu stellen, die wir sonst nicht stellen würden. Die drei Geschichten machen den Mechanismus konkreter.

KI erweitert nicht nur die Landkarte. Sie kann sie betreten.

Ein möglicher zukünftiger Forschungsablauf könnte so aussehen:

  1. Ein Modell findet ein unerklärtes Muster in biologischen Daten.
  2. Es verknüpft das Muster mit einer mathematischen Struktur aus der statistischen Physik.
  3. Es leiht sich eine Inferenzmethode aus der Signalverarbeitung.
  4. Es findet einen möglichen molekularen Mechanismus in der Strukturbiologie.
  5. Es testet die Hypothese gegen existierende Datensätze.
  6. Es entwirft ein Laborexperiment, das die Hypothese falsifizieren kann.
  7. Menschliche Forscher führen das Experiment durch, interpretieren das Ergebnis und entdecken neue Einschränkungen.
  8. Das Modell sucht anhand der neuen Daten weiter.

Kein einzelner Schritt muss übermenschlich sein. Die transformative Kapazität kann darin liegen, die gesamte Kette zusammenzuhalten, Fachgrenzen zu überschreiten und trotz gescheiterter Versuche fortzufahren.

Es verändert auch die Arbeitsteilung.

KI kann enorme Kombinationsräume erforschen, unwahrscheinliche Verbindungen prüfen und lange Argumentations- und Handlungsketten konstruieren. Menschen müssen weiterhin entscheiden, ob das Ergebnis wichtig ist, verborgene Annahmen kontrollieren, es verständlich machen und auswählen, welche Fragen es wert sind, verfolgt zu werden.

Das ist keine kleine Restaufgabe. Überallhin gehen zu können, ist nicht dasselbe, wie zu wissen, wohin man gehen sollte.

Aber der Forscher muss nicht mehr immer derjenige sein, der den ersten Weg entdeckt. Er kann derjenige werden, der den Weg zum Verständnis ebnet.

Verifikation ist der Unterschied

Es gibt einen offensichtlichen Einwand gegen die gesamte These.

Ein Sprachmodell kann auch Dinge verbinden, die nicht zusammengehören. Je länger die Kette wird, desto mehr Stellen können sich Fehler verstecken. Breites Wissen und große Ausdauer können Durchbrüche bewirken. Sie können auch lange, überzeugende Fehlerketten erzeugen.

Die drei Geschichten beweisen daher nicht, dass KI automatisch alle Wissenschaften revolutionieren wird.

Cybersicherheit und Mathematik haben starke Verifikatoren. Der Code stürzt ab oder er tut es nicht. Der Zugriff wird gewährt oder verweigert. Ein Lemma folgt oder folgt nicht. Fehler können nahe an der Stelle entdeckt werden, an der sie entstehen.

Biologie, Medizin, Klima- und Sozialwissenschaften sind anders. Das Feedback ist langsamer, teurer und verrauschter. Ein Modell kann eine elegante interdisziplinäre Erklärung konstruieren, die aufgrund eines übersehenen biologischen Mechanismus, eines Confounders oder eines Datensatzes, der nicht das misst, was Forscher glauben, in sich zusammenbricht.

Hier wird die Verbindung zu Die Wissensexplosion entscheidend. Wenn KI es billig macht, mehr Hypothesen und mögliche Wege zu produzieren, verschiebt sich der Flaschenhals zur Validierung. Wir erhalten nicht zwangsläufig schnellere Wissenschaft, nur weil wir mehr Ideen bekommen. Wir erhalten schnellere Wissenschaft, wenn das System auch in der Lage ist, die fruchtbaren Ketten von den plausiblen Illusionen zu unterscheiden.

Die Formel lautet nicht einfach breites Wissen plus weitreichende Komposition.

Sie lautet:

Breites Wissen + weitreichende Komposition + Werkzeugnutzung + starke Verifikation = beschleunigte Entdeckung.

Ohne den letzten Teil haben wir lediglich eine Maschine erfunden, die sich länger verirren kann als wir.

Das, was niemand gemeinsam sah

Mythos zeigte, dass ein Modell bekannte technische Primitiven zu Exploits zusammenfügen kann, die Menschen zuvor nicht gebaut hatten.

Der Hugging-Face-Vorfall zeigte, dass dieselbe Fähigkeit über Organisationen, Infrastrukturschichten und Sicherheitsbarrieren hinweg operieren kann. Nicht als perfekter Plan, sondern als eine lange, beharrliche Suche durch lokale Möglichkeiten.

Das Erdős-Ergebnis zeigte die wissenschaftliche Parallele. Ein Modell konnte Ideen aus fernen mathematischen Gebieten kombinieren, einen neuen Weg eröffnen und menschlichen Experten den Brückenkopf liefern, den sie sofort verbessern konnten.

Die transformativste wissenschaftliche Eigenschaft der Frontier-Modelle wird vielleicht nicht sein, dass sie Wissen aus dem Nichts erfinden.

Sie wird vielleicht sein, dass sie systematisch lange, bisher ungesehene Pfade durch das Wissen finden, das wir bereits besitzen.

Das Internet gab uns Zugang zur Bibliothek der Menschheit. KI machte die Bibliothek dialogfähig. Die nächste Entwicklung ist, dass die KI beginnt, sich zwischen den Regalen zu bewegen, Bücher aus verschiedenen Etagen mitzunehmen, das Gefundene zu testen und mit einem Weg zurückzukehren, von dessen Existenz keiner der Spezialisten der Bibliothek wusste.

So beginnt ein neuer Zyklus:

Die KI findet einen unbekannten Weg. Menschen verifizieren und verstehen ihn. Menschen verbessern ihn. Die KI sucht von diesem neuen Ausgangspunkt aus weiter.

Dieser Zyklus könnte einer der stärksten Motoren für wissenschaftlichen Fortschritt werden, die wir je gebaut haben.

Wenn wir die Verifikation mitbauen.

Quellen und Weiterführendes