In einem im September veröffentlichten achttägigen Experiment entdeckte ein KI-Forschungssystem sieben aufeinanderfolgende Verbesserungen an der eigenen Forschungssoftware eines Agenten. Die Leistungsgewinne übertrugen sich auf Aufgaben außerhalb des Auswahlverfahrens. Ein Teil der Werkzeuge, mit denen Forschung betrieben wird, war selbst zum Forschungsgegenstand geworden. AIDE²-Paper .
Damit arbeitet KI an den Werkzeugen der KI-Forschung selbst. Wenn Verbesserungen ein System darin stärken, die nächste Verbesserung zu finden, kann sich der Entwicklungsprozess zunehmend beschleunigen.
In KI entwickelt sich schneller als unsere Prognosen haben wir argumentiert, dass Unternehmen möglicherweise weniger Anpassungszeit bleibt, als ihre Prognosen vermuten lassen. Rekursive Selbstverbesserung liefert einen weiteren Grund, diese Möglichkeit ernst zu nehmen: KI übernimmt zunehmend Arbeit, die zur Entwicklung neuer KI beiträgt.
Die öffentlich verfügbaren Belege umfassen inzwischen begrenzte rekursive Schleifen. Zwischen diesen Experimenten und einem System, das selbstständig immer leistungsfähigere Nachfolger entwickelt, liegt weiterhin ein erheblicher Abstand. Wer diesen Abstand versteht, kann besser beurteilen, welche Ankündigungen die Aussichten tatsächlich verändern.
Wann wird Verbesserung rekursiv?
Wenn ein Entwickler KI bittet, einen Fehler zu beheben, ist das gewöhnliche KI-Unterstützung. Ein Agent, der nachweislich nützliche Änderungen an seinen eigenen Werkzeugen vornimmt, verbessert sich selbst. Rekursiv wird der Prozess, wenn das verbesserte System an weiteren Verbesserungen mitwirkt.
Das kann auf verschiedenen Ebenen geschehen. Ein Agent kann seine Prompts, sein Gedächtnis oder seine Forschungssoftware verändern. Ein Trainingsprozess kann das Modell selbst aktualisieren. Das weitergehende Szenario ist ein System, das die Entwicklung seines Nachfolgers steuert, der anschließend den nächsten Zyklus übernimmt.
Diese Unterschiede sind wesentlich. Bessere Software um ein bestehendes Modell kann nützliche Fortschritte bringen, ohne das zugrunde liegende Modell leistungsfähiger zu machen. Mehr Experimente können bessere Ergebnisse liefern, ohne zu beweisen, dass das System lohnende Experimente besser auswählt.
Entscheidend ist, was sich verändert hat, was gemessen wurde und ob die Verbesserung auch in der nächsten Runde Bestand hatte.
Fünf Entwicklungen, die Aufmerksamkeit verdienen
September: AIDE² verbesserte die Software eines Forschungsagenten
Der AIDE²-Preprint beschreibt Änderungen an der Suchstrategie des Agenten und an der Verwaltung seines Arbeitskontexts. Die Verbesserungen zeigten sich auf vier zurückgehaltenen Benchmarks, darunter Wettervorhersagen. Verbessert wurde die unterstützende Software des Agenten, häufig als Harness bezeichnet.
Die Autoren prüften auch, ob ein selbstverbesserter Agent einen weiteren Verbesserungsdurchlauf erfolgreicher steuern konnte. Dieser Vergleich blieb ohne eindeutiges Ergebnis: Es gab nur drei Durchläufe pro Versuchsbedingung, und die durchschnittlichen Endergebnisse waren ähnlich. Die Studie belegt somit übertragbare Verbesserungen am Agenten, lässt eine Beschleunigung des Verbesserungsprozesses aber offen. Ergebnisse und Grenzen .
Oktober: MASS überführte Verbesserungen ins Modelltraining
Ein Preprint von Sakana AI und der UC Berkeley vom 8. Oktober geht einen Schritt weiter. Bei MASS schlagen Kopien desselben Modells Teamabläufe vor, führen sie aus und bewerten die Ergebnisse. Ausgewählte Beispiele dienen anschließend zum Training eines aktualisierten Modells, das diese Rollen in der nächsten Runde übernimmt.
Nach zwei Runden berichten die Forschenden auf vier Forschungsbenchmarks von einem 1,2- bis 1,6-fachen Benchmark-Ergebnis pro Ausgabetoken gegenüber dem Basismodell. Separate externe Modelle bewerteten die Forschungsergebnisse, ohne Rückmeldungen an die Trainingsschleife zu liefern.
Das ist ein begrenztes Experiment, bei dem Modelltraining Teil der Schleife ist. Die Ergebnisse sind zudem uneinheitlich: Auf zwei Softwareentwicklungs-Benchmarks sank das Ergebnis pro Ausgabetoken leicht. Zwei Runden, eine kleine synthetische Trainingssuite und modellbasierte Bewertungen belegen keine unbegrenzte Verbesserung. Paper , Methoden und Ergebnisse .
September: Anthropic maß einen wachsenden Forschungsanteil von KI
Laut Anthropics September-Bericht führte Claude im August 26 % der KI-Forschungs- und Entwicklungsarbeit des Unternehmens federführend aus, gegenüber weniger als 1 % im Februar. Federführend bedeutet hier, den Großteil einer Aufgabe anhand einer übergeordneten Anweisung unter menschlicher Aufsicht zu erledigen.
Derselbe Bericht stellt fest, dass kein untersuchter Teilbereich vollständig autonom war. Der Index beruht auf einer internen Bewertung. Anthropic benennt Einschränkungen, die entstehen, wenn eigene Modelle die eigenen Systeme bewerten.
Gemessen wird der Einsatz innerhalb eines führenden KI-Labors. Die Ergebnisse zeigen, dass die Entwicklung künftiger KI zunehmend Arbeit einschließt, die heutige KI erledigt. Anthropics Messbericht .
September: OpenAI meldete einen automatisierten Forschungspraktikanten
Am 6. September erklärte OpenAI, nach internen Messungen das Ziel eines Forschungspraktikanten erreicht zu haben: ein System, das unter menschlicher Anleitung klar abgegrenzte Forschungsaufgaben erledigen kann, darunter Arbeiten, für die qualifizierte Forschende mehrere Tage benötigen.
Das erklärte Ziel eines umfassenderen automatisierten Forschers bis März 2028 bleibt eine Zielsetzung. Die gemeldete Fähigkeit ist beaufsichtigte Forschungsunterstützung und kein Nachweis autonomer Nachfolgerentwicklung. OpenAIs Bericht .
April: Agenten entwickelten und testeten eine KI-Trainingsmethode
Anthropics automatisiertes Forschungsprojekt zu Weak-to-Strong-Lernen untersuchte, ob ein schwächeres Modell ein stärkeres beim Lernen beaufsichtigen kann. Agenten schlugen eigene Ansätze vor und testeten sie innerhalb einer von Menschen festgelegten Problemstellung und Bewertung.
Bei der untersuchten Aufgabe schlossen sie 97 % einer definierten Leistungslücke. Zwei Forschende, die ausgewählte bestehende Methoden sieben Tage lang optimierten, erreichten 23 %. Der Agentenlauf dauerte fünf Tage, mit insgesamt 800 Agentenstunden über neun Agenten und rund 18.000 US-Dollar an Rechen- und API-Kosten.
Ein Übertragungsversuch auf die produktive Trainingsinfrastruktur ergab eine Verbesserung innerhalb des Messrauschens. Das Experiment zeigt nützliche autonome Forschung in einem definierten Rahmen und zugleich, wie stark das Ergebnis von diesem Rahmen abhängen kann. Forschungsbericht .
Der fehlende Schritt ist anhaltende Beschleunigung
Zusammen zeigen diese Ergebnisse mehrere Teile einer möglichen Rückkopplung: KI betreibt Forschung, verändert ihre Forschungswerkzeuge, erzeugt Trainingsbeispiele und setzt aktualisierte Systeme in nachfolgenden Runden ein.
Sie belegen nicht, dass jede Generation schnell genug zu einem besseren Forscher wird, um den gesamten Zyklus unbegrenzt zu beschleunigen. Laborberichte beschreiben zudem etwas anderes als kontrollierte Experimente. Keines davon sollte als unabhängige Replikation des jeweils anderen gelten.
Besonders aussagekräftig wären wiederholte Fortschritte bei vergleichbaren Kosten auf Aufgaben, die von der Entwicklung ausgeschlossen waren. Das verbesserte System müsste nachweislich besser darin sein, weitere Verbesserungen zu finden. Eine unabhängige Reproduktion würde diese Belege stärken.
Rechenleistung, Versuchsdauer und menschliches Urteilsvermögen bleiben entscheidend. Angenommen, ein Experiment läuft eine Woche, benötigt aber nur eine Stunde Vorbereitung. Eine zehnmal schnellere Vorbereitung ändert die Gesamtdauer kaum. Beschleunigung hängt davon ab, die tatsächlich bestimmenden Engpässe zu beseitigen.
Was sich dadurch für Unternehmen verändert
Ein kleines Unternehmen braucht kein eigenes KI-Forschungslabor, um die Auswirkungen zu spüren. Wenn Entwickler nützliche Upgrades schneller liefern, kann die Zeit zwischen der Verfügbarkeit neuer Fähigkeiten und ihrem Einsatz durch Wettbewerber kürzer werden.
Das macht langlebige Annahmen teuer. Ein Ablauf, der in einem Quartal technisch nicht praktikabel erschien, kann im nächsten einen neuen Test verdienen. Teams, die Beispiele, Fehlerfälle und Erfolgskriterien aufbewahren, können ein Upgrade deutlich schneller bewerten als Teams, die wieder bei einer Demonstration anfangen.
Unser Argument aus Hyper-Agile gilt auch hier: Schnellere Umsetzung macht die Auswahl lohnender Vorhaben und die Bewertung der Ergebnisse wichtiger. Ein System, das mehr Vorschläge erzeugt, kann auch mehr Prüfzeit beanspruchen. Entscheidend ist akzeptierte Arbeit zu vertretbaren Gesamtkosten.
Unternehmen können schon heute eine begrenzte Variante dieser Lernschleife nutzen. Ein Agent schlägt Änderungen an einem Ablauf vor. Das Team vergleicht die überarbeitete mit der bisherigen Version anhand zurückgehaltener Beispiele und übernimmt Verbesserungen, die Fehler oder Aufwand reduzieren. Ein Rückweg zur vorherigen Version und menschliche Freigaben für folgenreiche Aktionen bleiben erhalten. Ein Agent sollte Erfolg nicht selbst neu definieren können, nur damit seine neueste Version den Test besteht.
Wir erwarten, dass KI-gestützte KI-Entwicklung manche Fähigkeitszyklen weiter verkürzen wird. Die jüngsten Experimente machen diese Erwartung konkreter, während Tempo und endgültige Grenzen offenbleiben. Praktische Vorbereitung heißt, eine Organisation aufzubauen, die nützliche Verbesserungen erkennt, überprüft und übernimmt, ohne den Lernprozess jedes Mal neu beginnen zu müssen.