文章WHITEHOLE
企业内部用推荐:边界在哪里
搜索与推荐在企业内部不是同一件事:搜索回答「我要找的东西在哪」,推荐回答「你可能还需要什么」。推荐在企业场景有额外风险 —— 可能引导使用者看到本不该看到的内容,也可能让信息分布更不均衡。本文说明两者的目标差异、四类风险与分界规则,以及什么时候不适合做推荐
企业搜索知识引擎AI 治理
企业内部用推荐,指的是在搜索之外主动把人可能还需要的内容推到眼前。它在消费场景里是标配,在企业场景里却需要额外判断 —— 因为企业里的相关内容往往同时受权限、职责与合规约束,不是相关性高就可以推
两者的目标差异
- 搜索是主动的:使用者知道自己要找什么,系统的任务是准确找到。
- 推荐是被动的:系统猜测使用者还需要什么,承担的是猜错的责任。
- 衡量方式不同:搜索看命中与排序质量,推荐看是否带来有效发现,而后者很难界定。
推荐在企业内部的四类风险
- 越权暴露:推荐逻辑如果绕过权限判断,会把不该看的内容送到不该看的人面前。
- 信息茧房:总是推荐同一类材料,团队会逐渐只看熟悉的内容,新信息进不来。
- 引导性偏差:在企业决策场景里,推荐位天然带有暗示意味,可能影响判断的独立性。
- 无法解释:被问起为什么给我看这个时说不清依据,在内部治理上很难交代。
第一类是硬风险,其余三类是软风险。硬风险一旦发生就是事故,软风险不会立即暴露,但会慢慢改变组织的判断习惯。
分界规则
- 主动与被动分开:搜索结果区不掺推荐,推荐只出现在明确的补充位置。
- 推荐必须过权限:与检索使用同一套权限过滤,而不是走单独的通道。
- 推荐必须可解释:能说出因为你在看哪一类内容才推了它这类依据。
- 推荐不做结论:只推材料,不推倾向性判断,避免影响使用者的独立判断。
什么时候不适合做推荐
- 内容总量很小:材料本来就不多,推来推去还是那几篇,价值有限。
- 场景要求穷尽:合规核查、审计这类场景需要的是完整覆盖,而不是可能更相关。
- 权限边界复杂:跨部门可见性规则尚未理清时,推荐很容易踩到越权。
如果确实要做,从哪里开始
建议从最保守的形态起步:只在明确的位置、基于可解释的依据、推已经通过权限过滤的材料,并把使用者的忽略与点开都记录下来,用于判断它是否真的有价值。
验收
- 推荐结果与检索结果使用同一套权限判断。
- 推荐位与搜索结果区在界面上明确分开。
- 每条推荐能给出可读的依据,而不是只有一个分数。
- 有忽略率与点开率的记录,用作是否继续的依据。
上线之后要盯什么
- 越权尝试:有没有推荐结果被权限拦下的记录,没有记录不代表没有发生。
- 解释可用性:随机抽几条推荐,看依据能不能说清楚。
- 使用率:长期无人点开的推荐位应当回收,而不是默认保留。