CSA2 注意力工作室

共享稀疏注意力 · 三种工作模式

来源
  • 本层计算（绿）
  • 复用 Full 层 KV / K（黄）
  • 复用索引 Top-K（珊瑚）
  • Main Q（蓝）· 每层计算
  • SWA KV（淡紫）· 每层计算

拖拽旋转 · 滚轮或双指缩放 · 点击方块查看解释