Sluke的夹生饭 - 语言是思想的 KV Cache 的评论
type: channel
link: https://www.luweiqing.com/gossip/language-as-KV-Cache.html
description: 语言是思想的 KV Cache，使用人数和时间更长的语言，会有一些优势语言像 KV Cache 的地方维度语言KV Cache作用保存和传递上下文保存和复用推理上下文价值让思考可以连续累积让模型...