Chiphersteller kuendigt Speicher fuer Inferenz an (Workflows & Tools, Test 05)

Der neue Speichertyp soll Modelle mit groesseren Kontexten auf einer Karte halten. Erste Muster gehen an ausgewaehlte Kunden.

Entscheidend ist weniger die Kapazitaet als die Bandbreite: Wer den Speicher vor allem fuer Zwischenergebnisse braucht, gewinnt mehr durch kuerzere Wege als durch mehr Platz.