端 侧 视 觉 · 中 文 词 条 库
一起百科
端侧 AI 与智能零售的中文词条库。行话要能被查,也要能被追问——每条词条先给一句话定义,再说清它解决什么、什么时候用不上。
53词条
111标签
11-02最近更新
码本量化
量化、模型压缩、向量量化、端侧部署
码本量化(向量量化)不逐个数值对齐格点,而是把一组数值整体映射到一张码本里最接近的码字,只存索引。它把存储...
11-02
约 853 字
四位浮点
量化、数值格式、端侧部署、校准
四位浮点是用 4 个比特表示一个实数、把其中一部分比特分给指数的数值格式。它和整数 4...
11-02
约 879 字
世界模型
世界模型、端侧推理、视频预测、极低功耗
世界模型学的是「看到这一帧、做了这个动作,下一帧长什么样」。它把试错的成本从真实环境搬进模型内部,代价是生...
11-01
约 991 字
循环记忆的写入路由
循环记忆、长上下文、记忆压缩、端侧推理
循环记忆把历史压进固定数量的槽,所以每读一个 token...
11-01
约 873 字
近存计算
端侧推理、内存带宽、先进封装、能效
近存计算指把内存搬到计算单元旁边甚至上方,用更短的连线换更高的带宽和更低的每比特能耗。端侧推理现在缺的往往...
10-31
约 984 字
投机解码
推理加速、投机解码、草稿模型、端侧部署
投机解码让一个小而快的草稿模型先连续猜几个词,再由大模型一次前向批量校验,把「一个词一个词往外蹦」变成「一...
10-31
约 843 字