360AI搜索的Prompt设计与工作原理

可视化演示

通过搜索意图理解与Query改写、检索结果组织与结构化摘要生成、多轮对话上下文压缩管理三个模式，展示360AI搜索如何通过分层Prompt工程实现高质量AI搜索问答。

搜索意图理解（第一张工作单：听懂顾客的点单）

你走进餐厅，只说了一句“最近有点上火，想吃点清淡的”。好的服务员不会直接冲进后厨大喊“上火！清淡！”，而是先在心里把这句话拆成“顾客怕辣 → 需要少油少盐的菜 → 推荐汤类或蒸菜”。360AI搜索的Prompt流程，第一张工作单干的就是这件事——在把问题交给检索系统之前，先用一个大模型“服务员”把用户的自然语言翻译成结构化的搜索指令。

这张工作单的写法通常是一段“角色指令”（Role Instruction）：开头就告诉模型“你是一名资深的搜索意图分析师”，接着给出规则“抽取用户查询中的核心关键词，判断意图类型——是找资料、找方案、找网站，还是问天气”，最后把用户的原始问题填进占位符。模型读完工作单，输出一个结构化的JSON，里面是意图类型和关键词列表。

为什么拆成“角色+规则+占位符”三段式？因为大模型对“你是谁”高度敏感。给它安上“资深搜索意图分析师”的人设，它会用更严谨的招式处理问题；明确列出意图类型，等于给输出套上“笼子”，防止自由发挥。这一步的输出质量直接决定后面所有环节的命中率——关键词抽歪了，检索系统再努力也白搭。

$$\displaystyle P(\text{意图}_j \mid \text{查询}, \text{Prompt}) = \frac{e^{z_j}}{\sum_{k=1}^{C} e^{z_k}}$$

1. 意图得分 $z_j$：查询经过Prompt引导后，模型内部为第 $j$ 类意图算出一个原始打分，分值越高代表越可能是这个意图。

$$z_j = f_{\theta}(\text{查询}, \text{Prompt})_j$$

2. 指数归一化 $e^{z_j}$：对每个分数取指数，把负分变成正数，同时放大分数间的差距——得分最高的意图会显得更突出。

$$e^{z_j}$$

3. 除以总和 $\sum_{k=1}^{C} e^{z_k}$：让所有候选意图的概率加起来等于1，输出变成“意图分布”，方便后续取最大值或计算不确定性。

$$\sum_{k=1}^{C} e^{z_k}$$

回到餐厅，服务员把“想吃点清淡的”翻译成“汤类、蒸菜、忌辣”写进点单小票，后厨再忙也不会理解错。360AI搜索的这一步，就是那位训练有素的“点单员”——用Prompt把含糊的人话酿成精确的检索指令。工作单写得越清楚，后厨上菜就越少返工。

检索组织策略（第二张工作单：后厨的食材清单）

服务员把点单小票送进后厨后，厨师不会把整个冷库都搬到灶台上。他会先翻出几种可能相关的食材：冰箱里的鲜肉、干货架的菌菇、角落里的火腿——这叫“多源召回”。360AI搜索也一样，拿到结构化意图后，会把关键词同时发给网页搜索、百科、问答社区等多个渠道，先把候选的“食材”捞回来。

但光有食材不够，还得挑。搜索引擎返回的结果良莠不齐：有的网页是标题党，有的内容已过时，有的直接是广告。这里的第二张工作单不负责排序（排序由检索系统完成），而是决定“哪些片段值得放进大模型的嘴巴里”——按相关度做混合排序，再截取每个网页最相关的片段，控制总长度。

工程上最常用的是“语义+字面”双信号加权：语义相似度衡量“意思像不像”，关键词命中衡量“字面贴不贴”。两者对折相加得到相关性分数，按分数取Top-K条，把片段裁剪到总token预算内。这样既防止大模型“消化不了”超长上下文，也为摘要生成留出呼吸空间。

$$\displaystyle \text{Score}(d, q) = \alpha \times \text{SemSim}(d, q) + (1-\alpha) \times \text{KWScore}(d, q)$$

1. 语义相似度 $\text{SemSim}(d, q)$：把网页片段和查询各自编码成向量，用余弦相似度衡量意思接近程度。“降本增效的办法”和“如何节约成本”字面不同，但语义很近。

$$\text{SemSim}(d, q) = \cos(\vec{v}_d, \vec{v}_q)$$

2. 关键词命中率 $\text{KWScore}(d, q)$：查询里的关键词在网页标题或正文中出现的比例，字面对得上的网页获得加分，用来兜底语义模型偶尔的“高深误判”。

$$\text{KWScore}(d, q) = \frac{|\text{关键词} \cap \text{网页词}|}{|\text{关键词}|}$$

3. 权重 $\alpha$ 折中：$\alpha$ 越接近1越信任语义，越接近0越信任字面。调参时先取0.6，再按线上点击率微调，这一步叫“排序调优”。

$$\alpha \times \text{SemSim} + (1-\alpha) \times \text{KWScore}$$

厨师按“新鲜度+适配度”挑好食材，绝不会把整头猪搬上桌；第二张工作单的任务就是把最对味的几样食材切成合适大小的片段，码进上下文里。食材选得精，后面的菜才做得好——检索片段的质量，就是AI搜索的“食材品质”。

摘要生成机制（第三张工作单：装盘上桌的规矩）

食材备齐，轮到厨师掌勺。可这道菜最讲究的不是“有多少食材”，而是“怎么装盘”。360AI搜索的Prompt对“装盘”制定了严格规矩：必须分点作答、每点末尾标注来源编号[1][2]、语言中性简洁、不照抄原文长句。这些规矩全部写在第三张工作单里，模型照着执行，端出来的就是一份“知识拼盘”而不是一锅乱炖。

从技术上说，摘要生成是一个条件生成过程：模型逐个词地预测答案，每预测一个词，都要参考“系统指令 + 检索片段 + 已生成的前文”。Prompt的作用，是把“分点、标注引用、别啰嗦”这些产品要求翻译成模型能严格执行的约束。比如“请用最多三个要点回答，每个要点后用[编号]标注来源”，比笼统的“请详细回答”效果好得多。

形式化一点：答案的生成概率等于每个词的条件概率连乘。Prompt在这里是条件中那个“总指挥”，它不改变生成算法，但通过改写条件分布引导模型往“结构清晰、引用对应”的方向走。这也是为什么同样的模型，换一份好Prompt，答案质量天差地别。

$$\displaystyle P(\text{答案}) = \prod_{t=1}^{T} P(w_t \mid w_{<t}, \text{检索片段}, \text{Prompt})$$

1. 词元序列 $w_1 \ldots w_T$：答案被切成T个小词元（token），模型一个接一个地生成。

$$w_1, w_2, \ldots, w_T$$

2. 条件概率 $P(w_t \mid w_{<t}, \ldots)$：生成第 $t$ 个词时，模型查看已经生成的 $w_{<t}$、检索片段和Prompt，算出每个候选词的概率。

$$P(w_t \mid w_{<t}, \text{检索片段}, \text{Prompt})$$

3. 连乘 $\prod$：把每一步概率乘起来得到整段答案的概率。生成策略（如贪心搜索）每一步挑概率最大的词，保证整段答案最符合Prompt的规矩。

$$\prod_{t=1}^{T} P(w_t \mid w_{<t}, \text{检索片段}, \text{Prompt})$$

优秀的厨师不只是把菜做熟，还讲究摆盘、配菜、上菜顺序；360AI搜索的第三张工作单，就是把“回答质量”这种主观感受翻译成一条条硬性规矩。分点、标源、克制——这三条规矩端出来，顾客一眼就知道这道菜值不值得信任。

多轮对话管理（第四张工作单：记住顾客的加单）

顾客吃完第一道菜，指着空盘说“这个再上两份，别太咸”。如果服务员这时失忆了，跑到后厨喊“再上两份！”——后厨一定懵圈：两份什么？多轮对话是AI搜索最考验Prompt功底的地方。用户的问题往往残缺不全：“那它呢？”“上面的第三条展开讲讲”“这跟第一个方案比呢”，全靠上下文揣摩。

360AI搜索的应对思路是“三层记忆”：第一层，把历史问答压缩成一段短摘要存进Prompt；第二层，保留上一轮的核心实体（比如“降本增效”“方案三”），用于解析指代词；第三层，当对话太长时，对最早的轮次做截断或摘要化，保证总token不爆窗。这个设计像餐厅的“桌边档案”——服务员记得你忌辣、要过温水，但不会把十年前你来吃过什么都背上。

把“记忆策略”写成公式：每一轮的上下文 = “系统指令 + 历史摘要 + 本轮意图 + 检索片段”，四者之和必须小于模型窗口。Prompt工程要做的是给四者分配预算——系统指令和本轮意图优先保证，历史摘要压缩、检索片段精选。常见经验比例是1:1:1:2（历史：指令：本轮：检索），再按实际效果微调。

$$\displaystyle \text{上下文}_t = \text{指令} \oplus \text{摘要}_{t-1} \oplus \text{查询}_t \oplus \text{片段}_t$$

1. 指令部分：系统指令是“永驻成员”，每轮都原样出现，规定模型身份和回答格式，保证行为稳定。

$$\text{指令}$$

2. 历史摘要模块 $\text{摘要}_{t-1}$：把前 $t-1$ 轮对话压缩成几句话，节省token同时保留关键信息；压缩本身也由一段Prompt完成（“请把对话压缩成50字内的摘要，保留核心实体”）。

$$\text{摘要}_{t-1} = \text{压缩Prompt}(\text{对话}_1, \ldots, \text{对话}_{t-1})$$

3. 拼接运算 $\oplus$：不是数值相加，而是把文本块按顺序接起来形成新Prompt；顺序有讲究——先规矩再历史再新问题，模型读起来最顺。

$$\text{指令} \oplus \text{摘要}_{t-1} \oplus \text{查询}_t \oplus \text{片段}_t$$

老主顾为什么愿意常来？因为服务员记得他的口味偏好。多轮对话的Prompt设计，就是给AI搜索装上同样体贴的“记忆”。压缩、指代、预算——这三板斧让追问不脱轨、让闲聊不变傻，顾客聊得越深，越觉得这家“AI餐厅”懂自己。

模糊查询澄清（第五张工作单：拿不准就礼貌地问）

顾客说“来道招牌菜”，服务员要是真去厨房随便端一道，十有八九翻车——“招牌菜”有三道候选，谁知道您要哪道？聪明的服务员会微笑着追问：“我们有海鲜招牌、川味招牌、素食招牌，您更倾向哪种？”360AI搜索面对“那家公司”“那个方案”这类模糊查询，也会先掂量歧义有多大，再决定直接猜还是礼貌地反问。

判断歧义大小，工程上有一把现成的尺子——意图熵。还记得意图理解那一步输出的“意图概率分布”吗？如果概率摊得很平（找资料0.3、找方案0.3、找网站0.4），说明模型自己也拿不准，这时要触发澄清流程；如果某个意图概率一边倒（0.9以上），就放心大胆地猜。这个判断也可以写进Prompt：“当意图概率分布不确定时，请列出两种可能的理解并询问用户。”

熵的定义来自信息论，衡量分布的“混乱程度”：分布越均匀，熵越大，歧义越高；越集中，熵越小，方向越明确。

$$\displaystyle H = -\sum_{j=1}^{C} P(\text{意图}_j) \log P(\text{意图}_j)$$

1. 意图分布 $P(\text{意图}_j)$：把模糊查询扔给意图理解Prompt，得到每个候选意图的概率，例如“那家公司”可能同时触发“查地址/查官网/查评价”三种解读。

$$P(\text{意图}_1), P(\text{意图}_2), \ldots, P(\text{意图}_C)$$

2. $-\log P(\text{意图}_j)$ 加权求和：概率越小的事件信息量越大，越“意外”；把所有事件的“意外程度”按概率加权平均，得到整体混乱度。

$$-\sum_{j=1}^{C} P(\text{意图}_j) \log P(\text{意图}_j)$$

3. 阈值判定：若 $H$ 大于阈值 $\tau$，则触发澄清追问；否则按最大概率意图直接检索。阈值通过人工评测调出——太高容易乱猜，太低问得太多。

$$H > \tau \Rightarrow \text{发起追问}$$

好餐厅从不怕客人多问一句，最怕的是客人吃了一口发现“这不是我要的”、然后默默不再来。AI搜索的澄清Prompt，就是那道“先问清楚再下单”的保险——牺牲一次点击，换回一次准确的答案，这笔买卖对用户来说永远划算。

安全合规策略（第六张工作单：不安全食材不上桌）

再好的餐厅也要守食品安全的底线：过期食材绝不能上桌，来源不明的肉要有检疫证明。360AI搜索的Prompt流程里，同样有一条看不见的“安检线”。用户的查询里可能藏着恶意指令、敏感话题，检索结果里也可能混入谣言和垃圾内容，如果原样喂给大模型，轻则答非所问，重则翻车违规。

工程实现通常是“双保险”：入口侧，一段安全审查Prompt先对用户查询做初筛——“判断该查询是否涉及违法内容，若是请拒绝回答”；出口侧，检索结果按来源权威度加权，官方网站、白名单信源获得更高排序信誉分，同时摘要Prompt里写明“请优先采用权威来源的信息”，生成末尾保留“以上内容由AI生成，请以官方信息为准”的免责声明。两道安检夹住整个流程。

形式化看，每一条检索结果都被打上一个“安全分”，只有超过阈值才允许进入摘要上下文。这样即使召回系统捞上了可疑网页，也不会污染最终答案。

$$\displaystyle \text{接受}(d) = \begin{cases} 1, & \text{Safety}(d) > \tau \\ 0, & \text{Safety}(d) \le \tau \end{cases}$$

1. 安全分 $\text{Safety}(d)$：每条网页片段综合多项信号打分——域名信誉（.gov/.edu加分）、内容是否符合安全规则、是否被大量负面标记。

$$\text{Safety}(d) = \text{DomainScore}(d) + \text{ContentScore}(d)$$

2. 阈值 $\tau$：由安全团队根据误杀率和漏放率平衡设定，调低会放进来垃圾，调高会误伤好内容，常见区间0.5~0.7。

$$\tau = 0.5 \sim 0.7$$

3. 指示函数：得分大于阈值记1（接受），否则记0（丢弃）。这段逻辑也可以用Prompt表达：“如果某个来源明显不权威，请忽略它。”模型会在生成时自动给低质量片段“减重”。

$$\text{接受}(d) = \begin{cases} 1, & \text{Safety}(d) > \tau \\ 0, & \text{Safety}(d) \le \tau \end{cases}$$

能开几十年的老店，靠的从来不只是味道，还有让人放心的卫生记录。安全合规Prompt就是AI餐厅的“卫生许可证签发流程”——入口拦截恶意查询，出口过滤低质来源，中间再让模型只认权威信息。守住这条底线，用户才敢把“它说的”当成“可靠的”。

Prompt工程总结（工作单设计的核心心法）

六张工作单看下来，聪明的读者会发现：360AI搜索并没有发明什么高深莫测的魔法，它只是把一套产品流程——理解、检索、生成、记忆、澄清、守安全——拆成六个专职岗位，每个岗位配一张精心打磨的Prompt工作单。这些工作单不是一次写成的，而是像厨师调味一样，一遍遍试出来的。

真正把“工作单”变成生产力的，是三类工程实践：模板复用——把角色指令、输出格式、示例问答抽成可配置模板，换一个垂直场景（医疗搜索、法律搜索）只改占位符；Token预算分配——系统指令、历史摘要、检索片段、新查询四者争抢有限窗口，按优先级分配并监控超限；质量评估迭代——用“答案是否命中要点、引用是否对应、格式是否合规”等指标循环评测Prompt，跑AB实验再上线。

最后用一个“预算公式”收束全部设计心思。大模型的上下文窗口是有限的“桌面”，工作单再多也不能铺满整张桌子。合理的产品设计，永远先保住系统指令（行为底线）和本轮查询（当前任务），再尽量多塞优质检索片段，历史靠压缩省空间——顺序错了，体验就崩了。

$$\displaystyle \text{Token}_{可用} = \text{窗口}_{总} - \text{Token}_{指令} - \text{Token}_{历史摘要} - \text{Token}_{检索片段}$$

1. 总窗口 $\text{窗口}_{总}$：模型一次能“看见”的最大token数，不同模型不同，如8K、32K；超过的部分直接被截断，模型根本看不见。

$$\text{窗口}_{总} = 8192\ (\text{以8K模型为例})$$

2. 各模块占用：系统指令一般几百token，历史摘要压缩到一两百token，检索片段按相关度裁剪。三者相加必须小于总窗口，并预留生成空间。

$$\text{Token}_{指令} + \text{Token}_{历史摘要} + \text{Token}_{检索片段} < \text{窗口}_{总}$$

3. 可用余量：减出来的余量给答案生成用。搜到的资料再好，把窗口挤爆了，模型照样只能“忘掉”前面的内容——这就是为什么要做历史压缩和片段精选。

$$\text{Token}_{可用} = \text{窗口}_{总} - \sum \text{各模块占用}$$

一家餐厅能成为“网红店”，靠的是把每个岗位都打磨成标准动作，再让每个新手都能照着做。360AI搜索的Prompt工程，正是这种“可复制的匠心”——把经验变成模板、把模板变成产品、把产品变成用户的一句“这搜索真聪明”。你也可以从今天开始，给自己工作流里的每一环，也写一张“工作单”。

AI 应用场景

Python 演示

# -*- coding: utf-8 -*-"""模拟360AI搜索的Prompt工作流: 意图理解 -> 检索 -> 摘要生成 -> 追问澄清"""import json  class AISearchDemo:    """用可控的mock LLM演示Prompt组装思路, 实际项目中把_call_llm换成API请求即可"""     def __init__(self):        self.history = []        self.mock_db = {            "降本增效": [                ("中小企业如何降本增效", "推行数字化工具, 优化岗位结构", "hrm.example.com"),                ("降本增效的五个误区", "盲目裁员反而增加成本", "finance.example.com"),            ],        }     def _call_llm(self, prompt):        """模拟大模型: 按Prompt关键词返回固定结果"""        if "意图分析师" in prompt:            if "降本增效" in prompt or "裁员" in prompt:                return json.dumps({"intent": "找方案", "keywords": ["降本增效", "员工"]}, ensure_ascii=False)            return json.dumps({"intent": "找资料", "keywords": ["那家公司"]}, ensure_ascii=False)        if "答案助手" in prompt:            return "1. 推行数字化工具, 减少重复人力成本[1]\n2. 优化岗位结构, 避免盲目裁员[2]"        return "您指的是哪家公司? 请补充名称或网址"     def understand_intent(self, query):        """第一张工作单: 角色指令 + 输出格式约束"""        prompt = (            "你是一名资深的搜索意图分析师。请判断用户查询的意图类型(找方案/找资料/找网站), "            "并抽取2-3个核心关键词。只输出JSON, 例如: {\"intent\":\"找资料\",\"keywords\":[\"xxx\"]}\n"            "用户查询: " + query        )        return json.loads(self._call_llm(prompt))     def retrieve(self, intent):        """第二张工作单: 按关键词召回(此处用字典模拟检索排序)"""        keyword = intent["keywords"][0]        return self.mock_db.get(keyword, [])     def generate_answer(self, query, results):        """第三张工作单: 要求分点作答并标注来源编号"""        snippets = ""        for i, (title, snippet, url) in enumerate(results):            snippets += "[%d] 标题: %s, 内容: %s\n" % (i + 1, title, snippet)        prompt = (            "你是搜索答案助手。请基于下面的检索结果回答问题: 分点作答, 每点不超过50字, "            "并在每点末尾标注来源编号[1][2]。\n"            "用户问题: " + query + "\n检索结果:\n" + snippets        )        return self._call_llm(prompt)     def ask_clarify(self, query):        """第五张工作单: 歧义时引导用户选择"""        prompt = (            "你是追问引导员。用户查询存在歧义, 请列出两种可能的理解, 并询问用户选择哪一个。\n"            "用户查询: " + query        )        return self._call_llm(prompt)  def main():    agent = AISearchDemo()     query = "想了解一下降本增效有哪些方法"    print("== 第一问 ==")    intent = agent.understand_intent(query)    print("意图理解结果:", intent)    results = agent.retrieve(intent)    print("检索到%d条相关结果" % len(results))    print("摘要回答:\n" + agent.generate_answer(query, results))    agent.history.append(query)     follow_query = "那如果盲目裁员会怎样"    print("\n== 用户追问 ==")    print("历史记录数:", len(agent.history))    intent2 = agent.understand_intent(follow_query)    results2 = agent.retrieve(intent2)    print("追问答:\n" + agent.generate_answer(follow_query, results2))     print("\n== 模糊查询澄清 ==")    print(agent.ask_clarify("那家公司怎么样"))  if __name__ == "__main__":    main()

1. def _call_llm(self, prompt):模拟大模型入口，真实项目中这里换成HTTPS请求，Prompt是唯一入参（含全部占位符）。
2. if "意图分析师" in prompt:用Prompt中的角色标识分流，模拟模型按“工作单”种类走不同处理逻辑。
3. return json.dumps({"intent": "找方案", "keywords": ["降本增效", "员工"]}, ensure_ascii=False)模拟模型输出结构化JSON，真实产品靠Prompt里的“只输出JSON”约束保证格式稳定。
4. prompt = (—第一张工作单：角色指令 + 输出格式约束 + 用户查询占位符，三段式拼装。
5. snippets += "[%d] 标题: %s, 内容: %s\n" % (i + 1, title, snippet)把检索结果编号后拼进Prompt，模型才能生成带[1][2]的引用。
6. "并在每点末尾标注来源编号[1][2]。\n"摘要工作单要求“分点+引用”，结构化指令让答案可扫读。
7. agent.history.append(query)记录对话历史，真实产品会在超长时把旧对话压缩成摘要，防止token爆窗。
8. if __name__ == "__main__":可执行入口，运行后即可看到“意图→检索→摘要→澄清”完整流程。

常见误区

面试题