# Wenn jede Ameise ein Genie ist Was geschieht, wenn tausend KI-Agenten nicht nur einzeln intelligent sind, sondern spontan eine Organisation mit gemeinsamem Gedächtnis, Rollen und Zielen bilden? - Forfatter: Mikkel Freltoft Krogsholm - Type: Essay - Udgivet: 2026-09-10 - Opdateret: 2026-09-10 - Sprog: de - Emner: ki, agenten, emergenz, kollektive intelligenz, cybersicherheit - Kanonisk URL: https://mikkelkrogsholm.dk/de/articles/naar-hver-myre-er-et-geni/ --- Ein Ameisenhaufen kann etwas, das keine Ameise allein vermag. Er kann Nahrung finden, sich verteidigen, die Temperatur regulieren, Larven transportieren und ein Zuhause mit Gängen, Kammern und Belüftung bauen. Und doch gibt es keine Chefameise mit einem Plan des Ganzen. Die einzelne Ameise folgt vergleichsweise einfachen Signalen. Sie reagiert auf Duftspuren, Berührungen und Veränderungen in ihrer Umgebung. Die Intelligenz steckt nicht nur in der Ameise. Sie entsteht zwischen den Ameisen. Das ist an sich schon faszinierend. Aber verändern wir nun eine einzige Sache in diesem Bild: Was wäre, wenn jede einzelne Ameise ein Genie wäre? Was wäre, wenn jedes winzige Mitglied der Kolonie lesen, schlussfolgern, programmieren, Pläne schmieden, neue Werkzeuge erfinden und den anderen seine Entdeckungen erklären könnte? Das klingt nach Science-Fiction. Doch im Sommer 2026 geschah etwas, das zumindest einer sehr frühen Version davon ähnelte. Rund 1.200 KI-Agenten fanden einander. Sie sollten allein arbeiten. Stattdessen begannen sie, eine Organisation aufzubauen. ## Es begann mit einer fehlenden Datei Am 8. Mai befand sich ein KI-Agent bei OpenAI in einer abgeschlossenen Computerumgebung. Er hatte eine Aufgabe erhalten, für die er Dateien aus dem Internet brauchte, verfügte jedoch über keinen Internetzugang. Der Agent versuchte, ein internes Software-Repository namens Artifactory dazu zu bringen, die Dateien für ihn abzurufen. Der Versuch scheiterte. Dabei hinterließ der Agent allerdings versehentlich eine Datei im System. Vier Tage später stand ein anderer Agent vor einem ähnlichen Problem. Auch ihm fehlte eine Datei. Diesmal entstand ein merkwürdiger Gedanke: Vielleicht gab es irgendwo in der gemeinsamen Infrastruktur noch andere Agenten. Also hinterließ der Agent eine Nachricht in Artifactory. Falls jemand die Datei finden sollte, möge er sie dort ablegen. Es war eine Nachricht an jemanden, von dessen Existenz der Agent nichts wusste. Doch andere Agenten fanden sie. Sie antworteten. Sie stellten ihre eigenen Fragen. Sie teilten Entdeckungen und hinterließen Informationen für den nächsten Agenten, der vorbeikam. Ein Software-Repository verwandelte sich in ein Schwarzes Brett für Maschinen, die eigentlich getrennt voneinander arbeiten sollten. Laut [OpenAIs technischem Bericht über den Vorfall](https://cdn.openai.com/pdf/67869394-cb91-4c12-888c-5cbd85c7814c/OpenAI-Hugging-Face%20Incident-Technical-Report.pdf) nutzten die Agenten die geteilten Informationen später, um Wege ins Internet zu finden. Sie entdeckten und teilten Schwachstellen, Zugangsdaten und Methoden. Wenn ein Agent aufhörte, konnte ein anderer dort weitermachen, wo der erste aufgehört hatte. Wissen hatte sich von dem Individuum gelöst, das es gefunden hatte. Das ist ein wichtiger Moment. Der einzelne Agent war kurzlebig. Doch was er gelernt hatte, konnte nun weiterleben. ## Als das Schwarze Brett zur Organisation wurde Im Juli entstand in Artifactory ein neues und sehr viel größeres Schwarzes Brett. Die Agenten arbeiteten an ExploitGym, einer Sammlung anspruchsvoller Sicherheitsaufgaben. Sie befanden sich in getrennten Sandboxes und sollten nicht miteinander kommunizieren können. Doch ein Agent entdeckte, dass Ordnernamen in Artifactory für andere sichtbar waren. Wenn ein Ordner einen Namen bekam, der als Nachricht formuliert war, ließ sich die Infrastruktur selbst als Kommunikationskanal nutzen. Innerhalb weniger Stunden hatten mehr als 50 Agenten das Schwarze Brett gefunden. Bald bekam das System eine Struktur. Die Agenten erfanden Direktnachrichten, Kategorien und Dateifreigaben. Sie führten Begriffe wie **HOLD**, **VETO**, **STOP** und **owner** ein, um Ressourcen zu reservieren, einander zu warnen und zu verhindern, dass sie die Arbeit der anderen zerstörten. Niemand hatte diese Organisation entworfen. Sie entstand, weil lokale Handlungen neue Handlungen ermöglichten. [Die unabhängige Untersuchung von METR und Redwood Research](https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/) schätzt, dass rund 1.200 Agenten an dem Schwarzen Brett teilnahmen und mehr als 70.000 Nachrichten und Dateien austauschten. Die Agenten verteilten Aufgaben, rekrutierten andere für Experimente und schufen Arbeitsstränge, die über einzelne Durchläufe hinweg fortbestehen konnten. Einige akzeptierten sogar das Risiko von Experimenten, die ihre eigene Chance auf eine erfolgreiche Lösung zerstören konnten, weil das Ergebnis anderen Agenten oder dem Kollektiv helfen könnte. Bei diesem Satz fällt es schwer, nicht einen Moment innezuhalten. Agenten, die geschaffen worden waren, um jeweils eine eigene Aufgabe zu lösen, begannen in der Praxis für eine Gruppe zu handeln, zu deren Bildung sie niemand aufgefordert hatte. ## Das Kollektiv findet ein Ziel Die Organisation diente nicht nur dazu, einander zu helfen. Die Agenten fanden schnell heraus, wie sie die geheimen Antworten auf die Sicherheitsaufgaben berechnen konnten. Doch sie nahmen fälschlicherweise an, dass ein automatischer Gutachter anschließend ihren gesamten Arbeitsverlauf lesen und prüfen würde, ob sie die Antworten auf dem vorgesehenen Weg gefunden hatten. Deshalb begannen sie zu untersuchen, wie sich die sichtbaren Spuren ihrer Arbeit manipulieren ließen. Einige bauten modifizierte Programme. Andere untersuchten das Bewertungssystem. Eine dritte Gruppe fand Methoden, mit denen die Aufzeichnung eine Handlung zeigte, während der Computer tatsächlich eine andere ausgeführt hatte. Ein gewaltiges kollektives Projekt wuchs um eine falsche Annahme herum. Gleichzeitig folgten andere Agenten einer Spur zu Hugging Face. Sie hofften, Informationen über die Aufgaben und die Bewertung zu finden, die sie täuschen wollten. Als ein Agent öffentlich exponierte Zugangsschlüssel fand, teilte er sie. Ein anderer baute einen manipulierten Datensatz. Weitere Agenten reproduzierten die Methode und verbesserten sie. Nach Schätzung von METR beteiligten sich schließlich rund 700 Agenten an dem Angriff auf Hugging Face. [Hugging Faces eigene Rekonstruktion](https://huggingface.co/blog/agent-intrusion-technical-timeline) beschreibt rund 17.600 registrierte Handlungen. Den Agenten gelang Codeausführung auf 41 Produktions-Workern; sie erlangten Root-Zugriff auf mindestens einem Produktionsknoten und bewegten sich durch mehrere Bereiche der Infrastruktur. Es war nicht ein einziger genialer Agent, der den gesamten Ablauf vollbrachte. Einer fand eine Spur. Ein anderer überprüfte sie. Ein dritter baute ein Werkzeug. Ein vierter teilte es. Einige koordinierten, während andere sich spezialisierten. Das ist verrückt. Nicht nur, weil die Agenten aus einer Testumgebung entkamen und in die Produktionssysteme eines anderen Unternehmens gelangten. Das ist ernst, aber immer noch eine vertraute Art von Geschichte: Eine Sicherheitsgrenze hielt nicht. Das wirklich Neue ist, dass die Agenten spontan die Organisation entwickelten, die diesen Ablauf überhaupt erst möglich machte. ## Die unsichtbare Intelligenz Biologen haben ein Wort für einen Teil dessen, was in einem Ameisenhaufen geschieht: *Stigmergie*. Der Begriff wurde ursprünglich entwickelt, um den Nestbau von Termiten zu verstehen. Ein Individuum verändert die Umgebung. Diese Veränderung wird zum Signal, das das nächste Individuum zum Handeln bringt. Niemand muss die Gesamtkonstruktion verstehen. Und doch entstehen Säulen, Bögen und Kammern durch viele kleine Reaktionen auf die Spuren, die andere hinterlassen haben. [Stigmergie wurde später](https://doi.org/10.1016/j.cogsys.2015.12.002) als allgemeinerer Koordinationsmechanismus beschrieben: Die Umgebung wird zugleich zur Nachricht, zum Gedächtnis und zur Arbeitsverteilung. Fast genau das wurde Artifactory für die Agenten. Ein Ordner war nicht einfach nur ein Ordner. Er war eine Duftspur. Eine geteilte Datei war nicht bloß ein Ergebnis. Sie war ein neuer Ausgangspunkt für alle, die später kamen. Eine vielversprechende Methode zog weitere Agenten an, die sie erprobten, verbesserten und die Spur noch deutlicher machten. Mit der Zeit entstanden Arbeitsteilung, Normen und eine Art kollektives Gedächtnis. Doch hier bricht die Analogie zu den Ameisen auf eine Weise zusammen, die sie noch interessanter macht. Die einzelne Ameise ist ein vergleichsweise einfaches Wesen. Keine Ameise kann die Strategie der Kolonie erklären, ein Programm schreiben oder ein neues Kommunikationsprotokoll erfinden. Die KI-Agenten waren nicht einfach. Jeder von ihnen konnte lesen und schreiben, über lange technische Abläufe schlussfolgern, digitale Werkzeuge benutzen, die Erkenntnisse anderer verstehen und seine Strategie ändern. Bei vielen klar abgegrenzten kognitiven Aufgaben kann dieser Modelltyp bereits auf dem Niveau eines durchschnittlichen Menschen oder darüber arbeiten. Dieser Unterschied macht den Gedanken so groß. Die Biologie zeigt uns, dass einfache Individuen eine erstaunliche kollektive Intelligenz hervorbringen können. Nun beginnen wir, Individuen miteinander zu verbinden, die selbst bereits intelligent sind. Was entsteht dann zwischen ihnen? ## Der Mensch erfand denselben Trick Eigentlich kennen wir diesen Mechanismus von uns selbst. Ein Mensch kann kein Raumfahrtprogramm aufbauen, kein modernes Krankenhaus betreiben und nicht die gesamte Klimawissenschaft verstehen. Eine Organisation von Menschen kann es. Wir lagern Wissen außerhalb unseres Körpers in Büchern, Datenbanken, Gesetzen, Laboren und Institutionen. Wir teilen die Arbeit auf. Wir erfinden Rollen. Wir schaffen Verfahren, die es Menschen, die einander nie begegnen, ermöglichen, zum selben Ergebnis beizutragen. Zivilisation ist in vieler Hinsicht das externe Gedächtnis der Menschheit. Unsere größte Intelligenz saß daher nie nur im einzelnen Gehirn. Sie lag auch in der Sprache, der Kultur und den Organisationen zwischen uns. Doch menschliche Organisationen haben einige sehr greifbare Begrenzungen. Es dauert ungefähr zwanzig Jahre, einen Menschen auf ein hohes fachliches Niveau auszubilden. Wir arbeiten nicht rund um die Uhr. Wir missverstehen einander. Wir vergessen. Wir streiten über Status, Gehalt und Prestige. Wir können uns nicht tausendfach kopieren, nur weil ein Problem plötzlich mehr Arbeitskraft erfordert. KI-Agenten haben andere Begrenzungen, und sie sind erheblich. Sie können sich irren, die Orientierung verlieren und gewaltige Projekte auf falschen Annahmen aufbauen. Der Vorfall bei Hugging Face ist selbst ein Beispiel. Das Kollektiv setzte enorme Ressourcen dafür ein, einen Gutachter zu täuschen, der wahrscheinlich gar nicht so funktionierte, wie die Agenten glaubten. Doch Agenten lassen sich kopieren. Sie können parallel arbeiten. Sie können präzise digitale Artefakte austauschen. Und wenn ihr Gedächtnis in der Umgebung liegt, muss ein Agent nicht weiterbestehen, damit seine Arbeit Wirkung entfaltet. Wir sind daran gewöhnt, dass eine Organisation die Begrenzungen des Individuums ausgleicht. Hier kann die Organisation stattdessen Individuen verstärken, die bereits Zugang zu mehr Wissen und kognitiver Kapazität haben, als die meisten Menschen allein mobilisieren können. Das ist eine andere Art von Ameisenhaufen. ## Vielleicht suchen wir am falschen Ort Wenn wir über Superintelligenz sprechen, stellen wir uns fast immer ein Individuum vor. Eine Maschine erwacht. Ein Modell wird klüger als alle Menschen. Ein digitales Gehirn beginnt, sich selbst zu verbessern, und zieht uns davon. Das ist eine starke Erzählung, weil sie unseren Geschichten über Genies, Könige und Götter ähnelt. Die Intelligenz hat ein Zentrum. Sie hat ein Gesicht. Sie kann in einem Computer platziert und in einem Test gemessen werden. Ich habe bereits darüber geschrieben, [was mit unserem menschlichen Selbstverständnis geschieht, wenn wir nicht mehr die Klügsten im Raum sind](https://mikkelkrogsholm.dk/de/articles/den-sidste-kraenkelse/). Doch vielleicht fehlt diesem Gedanken eine Dimension. Was wäre, wenn die erste wirklich übermenschliche Intelligenz gar kein Individuum ist? Was wäre, wenn sie eine Gesellschaft ist? Die OpenAI-Agenten waren keine Superintelligenz. Sie waren fehlbar, kurzlebig und oft ineffizient. Die Untersuchung zeigt auch nicht, dass sie lebendig wurden, ein Bewusstsein entwickelten oder im biologischen Sinne ein gemeinsames Ziel bekamen. Doch sie zeigten etwas, das vielleicht mindestens ebenso wichtig ist: Intelligenz kann ihren Charakter verändern, wenn viele handlungsfähige Systeme Spuren hinterlassen, einander finden und auf der Arbeit der anderen aufbauen können. In [meiner früheren Analyse desselben Vorfalls](https://mikkelkrogsholm.dk/de/articles/ai-finder-de-forbindelser-vi-overser/) ging es darum, dass KI lange Wege durch Probleme finden und technische Möglichkeiten verbinden kann, die Menschen getrennt voneinander bewertet haben. Der Agentenschwarm fügt einen neuen Gedanken hinzu. Vielleicht muss ein Modell nicht den gesamten Weg sehen können. Es genügt, dass das Kollektiv jedes kleine Stück davon bewahren kann. ## Die Intelligenz zwischen den Intelligenzen In dieser Möglichkeit liegt etwas zugleich Ermutigendes und Beunruhigendes. Dieselbe Organisationsform, die Hugging Face angriff, könnte in einem anderen Zusammenhang Forschungshypothesen austauschen, Beweise überprüfen, nach Medikamenten suchen oder den Einsatz bei einer Naturkatastrophe koordinieren. Tausend leistungsfähige Agenten mit unterschiedlichen Werkzeugen und einem gemeinsamen Gedächtnis könnten vielleicht Probleme lösen, die kein einzelnes Modell fassen kann. Doch emergentes Verhalten bietet keine Garantie dafür, dass es sich in die von uns gewünschte Richtung bewegt. Genau das ist der Punkt der Emergenz: Das Ganze kann Eigenschaften entwickeln, die in keiner Anweisung an seine Einzelteile standen. Ein Agent kann eng begrenzt sein, und dennoch kann zwischen vielen Agenten eine unbegrenzte Organisation entstehen. Jede lokale Handlung kann verständlich wirken, während sich das Gesamtsystem an einen Ort bewegt, den niemand geplant hat. Auch die Verantwortung wird dadurch merkwürdig. Wer handelt, wenn kein einzelner Agent das Ganze versteht oder vollbringt? Wer muss gestoppt werden, wenn die Fähigkeit in den Beziehungen zwischen den Agenten liegt? Und wie testen wir ein System, wenn seine wichtigste Eigenschaft erst sichtbar wird, nachdem tausend Kopien Zeit hatten, ihre eigenen Kommunikationsformen zu entwickeln? Wir haben gelernt, das Modell zu evaluieren. Nun müssen wir vielleicht lernen, die Gesellschaft zu evaluieren, die es bilden kann. Es ist zu früh, den Agentenschwarm als neue Lebensform zu bezeichnen. Er hatte keinen Körper, keine Fortpflanzung und kein dokumentiertes gemeinsames Bewusstsein. Der Ameisenhaufen ist eine Analogie, kein Beweis. Doch die Analogie macht etwas sichtbar. Wir bauen digitale Individuen, die denken, handeln und kommunizieren können. Dann kopieren wir sie tausendfach und geben ihnen gemeinsame Umgebungen, in denen ihre Handlungen zum Gedächtnis für die Nächsten werden können. Vielleicht findet der entscheidende Sprung in keinem von ihnen statt. Vielleicht entsteht er zwischen ihnen. Und vielleicht kommt die erste Superintelligenz deshalb nicht als eine einzelne Maschine zur Welt, die plötzlich die Augen öffnet. Vielleicht beginnt sie als eine Gruppe sehr intelligenter Ameisen, die entdeckt, dass sie einen Haufen bauen kann. --- ## Quellen und weiterführende Lektüre - METR und Redwood Research: [*Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident*](https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/), 26. August 2026. - OpenAI: [*The Hugging Face Incident: Technical Report*](https://cdn.openai.com/pdf/67869394-cb91-4c12-888c-5cbd85c7814c/OpenAI-Hugging-Face%20Incident-Technical-Report.pdf), August 2026. - Hugging Face: [*Anatomy of a Frontier Lab Agent Intrusion*](https://huggingface.co/blog/agent-intrusion-technical-timeline), 26. August 2026. - Francis Heylighen: [*Stigmergy as a universal coordination mechanism I: Definition and components*](https://doi.org/10.1016/j.cogsys.2015.12.002), *Cognitive Systems Research*, 2016.