第947章

他的聲音有些急，手指在鍵盤上飛快敲擊，調出性能曲線。

那條線在生圖階段猛地往上竄了一下，又掉下來。

李沫走過去，蹲下來盯著那台手機屏幕，看了幾秒。

然後站起來，走到主控台前，調出量化參數頁麵。

他沉默了一會兒，手指在鍵盤上敲了幾下，改了三個數字。

“把KV Cache的精度再壓一點，從int8降到int4。犧牲0.1%的準確度，換取15%的速度提升。”

他頓了頓，“我們要的不是實驗室的