Technische Einblicke, neue Features und Geschichten aus der Entwicklung, direkt vom Team: woran wir bei Overfit gerade arbeiten und was wir dabei lernen.
Ein neues Speculative-Decoding-Verfahren ersetzt autoregressive Draft-Modelle durch Block-Diffusion - und erreicht bis zu 6x Speedup ohne Qualitaetsverlust.