DEEP DIVE / 机制与取舍
动手理解 RRF 与上下文治理
调整输入,观察结果,对照源码和边界;真实业务职责在项目案例中说明。
这里解释机制,也交代实现范围。
两个实验都是独立教学实现,使用合成数据,不调用真实模型或内部接口。上下文平台实现由平台团队完成,这里展示机制理解与技术复盘。RRF 使用哈希嵌入,不能据此判断生产检索效果。
TECHNICAL EXPERIMENTS
让机制本身可解释。
保留两个可以动手的技术实验。
改变输入,观察结果,再讨论取舍。
浏览器内运行
EXPERIMENT 01 / RECIPROCAL RANK FUSION
一条查询,两路证据。
不直接相加不可比的原始分数,用排名完成融合。
试试看
正在加载合成语料…14 片段 / 3 份文档
向量路 COSINE
1024 维哈希向量 · 展示前 4 项
词法路 BM25-LIKE
字词元匹配 · 展示前 4 项
RRF 融合结果
展开查看原文与分数贡献独立教学实现,使用虚构语料。哈希向量只展示链路,不代表真实语义能力;未调用大模型或重排模型。网页增加了动态调参和贡献解释,并非正在调用 Java API。
EXPERIMENT 02 / CONTEXT OFFLOADING
合成工具输出完整数据,不必完整进入上下文。
把“给模型看的内容”和“交给工具处理的数据”分开。
完整工具输出—字符 · 保存在旁路
上下文可见内容—字符 · 摘要 + 采样 + 引用
本次可见字符减少—按字符统计,不是 token 或费用
01 生成完整结果→02 摘要 + 引用→03 取回并注入工具参数
模型可见的消息
JSON / PREVIEW工具拿到完整数据,
而不是截断的样本。
根据 cache_ref 取回数组,注入本地统计函数的 records 参数。下面的结果来自完整数组的实际计算。
当前引用
—点击“取回并计算”,验证完整数据是否仍可使用。
查看注入逻辑
records = cache.get(cache_ref)
if (!records) throw CacheMiss
statistics({ records })此处执行的是等价浏览器函数,无任意代码执行或真实后端调用。
浏览器内存模拟服务端旁路,刷新即清除。生产实现还需要引用鉴权、TTL、会话隔离与失败恢复。该演示不复现历史 token 统计,不证明 Agent 端到端成功。
BUILT TO EXPLAIN, NOT TO OVERCLAIM.
检索效果需要真实语料与评测集。这里展示机制、边界和替换点。