Chiphersteller kuendigt Speicher fuer Inferenz an (Die Schattenseiten der Entwicklung, Test 05)

Der neue Speichertyp soll Modelle mit groesseren Kontexten auf einer Karte halten. Erste Muster gehen an ausgewaehlte Kunden.

Entscheidend ist weniger die Kapazitaet als die Bandbreite: Wer den Speicher vor allem fuer Zwischenergebnisse braucht, gewinnt mehr durch kuerzere Wege als durch mehr Platz.