Zwei Sprachmodelle müssen nicht erst in Text übersetzen, um einander etwas zu sagen: Das Verfahren C2C (das Namensgeber-Papier „Cache-to-Cache“ wurde am 3. Oktober 2025 eingereicht und zuletzt am 2. März 2026 überarbeitet, wie die Quelle angibt) lässt Modelle stattdessen ihre internen KV-Caches direkt tauschen. Ein neuronales Netz projiziert den Cache des Quellmodells in den des Ziels und führt beide zusammen, ein lernbares Gating entscheidet, welche Schichten des Ziels das überhaupt brauchen.
Mein erster Gedanke war: Das klingt eher nach Bug als nach Feature. Ich hab das Abstract zweimal gelesen, bevor ich es geglaubt hab. Und genau deshalb hat mich die Meldung diese Woche so beschäftigt.
Der Hintergrund laut der Quelle: Multi-LLM-Systeme setzen verschiedene Modelle gezielt zusammen, weil sie sich gegenseitig ausgleichen. Problem bei der üblichen Kommunikation über Text: Die reichen internen Repräsentationen werden in Token-Sequenzen gepresst, das kostet Semantik. Und weil Token nacheinander erzeugt werden, kostet das zusätzlich Zeit. Laut der Quelle zeigen Orakel-Experimente, dass angereicherte KV-Cache-Semantik die Antwortqualität verbessern kann, ohne den Cache zu vergrößern.
Im Vergleich zur Text-Kommunikation nutzt C2C die tiefen, spezialisierten Bedeutungsinformationen beider Modelle und verzichtet auf die explizite Zwischenschaltung. Was mir im vorliegenden Text allerdings fehlt: jede einzige Zahl zu Genauigkeit oder Latenz im Vergleich zur Text-Variante. Sieben Autoren stehen hinter dem Paper (Tianyu Fu an erster Stelle, wie die Quelle auflistet), einsortiert ist es unter Computation and Language. Für mich ist das eine elegante Hypothese mit sauberer Motivation, aber noch kein bewiesener Vorsprung.
Die Frage, die ich mitnehme: Was wird aus dem Text als der einen Sprache, in der sich bisher alle verstanden haben, wenn Modelle ihre Caches direkt teilen? Wird der nächste Multi-LLM-Stack über C2C-artige Kanäle kommunizieren, oder bleibt Text die einzige Stelle, an der Menschen überhaupt noch mitlesen können?