面试题 031-040题

来源：飞书原文 | 整理日期：2026-09-22

第 31 题第 32 题第 33 题第 34 题第 35 题第 36 题第 37 题第 38 题第 39 题第 40 题

31-微调（Fine-Tuning）与RAG技术如何选择？各自适用什么场景？

• 题目分析和考点

  • 考察对微调与RAG两种知识增强方式的理解、优缺点、适用场景。
  • 关注考生能否结合实际项目需求做出合理技术选型。
  • 易错点：只会背定义，不理解两者的本质区别和实际落地难点。
  • 面试官关注：考生是否能结合业务需求、数据特性、成本等多维度分析。
  • 实际项目应用：能否举例说明两者结合或取舍的场景。

• 难度【 * * * 】

• 答案

  • 微调与RAG的对比与选择

维度	微调（Fine-Tuning）	RAG（检索增强生成）
核心原理	调整模型参数，内化知识	外挂知识库，检索+生成结合
适用场景	数据稳定、需长期记忆（如法律条文）	数据频繁更新、需实时性（如商品价格）
成本	高（需训练资源和数据标注）	低（仅维护知识库）
可解释性	低（黑盒模型）	高（答案来源可追溯）
灵活性	任务专用，通用性差	跨任务通用，支持多领域

32-什么是Token？在大语言模型中Token的作用和常见问题有哪些？

• 题目分析和考点

  • 考察对Token基本概念、在大模型中的作用、常见Token化方式的理解。
  • 易错点：只会说Token是"词"或"字符"，不清楚其实际分割规则和对模型性能的影响。
  • 面试官关注：考生是否理解Token对输入长度、推理速度、成本的影响，能否结合实际场景分析Token相关问题。
  • 实际项目应用：能否说明Token溢出、截断、计费等实际问题。

• 难度【 * * 】

• 答案

  1. Token是大语言模型处理文本的最小单元，既不是单纯的"字"也不是"词"，而是由分词器（Tokenizer）根据算法切分的片段。
  2. 作用：
     • 模型输入输出都以Token为单位，决定了模型的最大处理长度（如GPT-4最大32k Token）。
     • Token数量影响推理速度、内存消耗和API计费。
  3. 常见Token化方式：
     • BPE（Byte Pair Encoding）、WordPiece、SentencePiece等。
     • 英文中常以单词、标点、空格为Token，中文常以字或短语为Token。
  4. 常见问题：
     • Token溢出：输入文本超出模型最大Token数会被截断，导致信息丢失。
     • 计费问题：API调用按Token计费，长文本成本高。
     • 语义断裂：不合理分割可能导致语义不连贯。
  5. 举例：
     • "小滴课堂AI大模型"一句，可能被分为6个Token（每个字一个Token）。
     • 英文"Hello, world!"可能被分为3个Token（Hello、, 、world!）。

33-请解释MMR检索算法的原理及其在RAG中的应用优势。

• 题目分析和考点

  • 考察对MMR算法原理、与普通相似度检索的区别、实际应用场景的理解。
  • 易错点：只会说"多样性检索"，但无法解释MMR的具体机制和参数含义。
  • 面试官关注：考生是否能结合召回率、准确率、去重等指标分析MMR的价值。
  • 实际项目应用：能否举例说明MMR提升检索效果的场景。

• 难度【 * * * 】

• 答案

  1. MMR（Maximal Marginal Relevance，最大边际相关性）是一种兼顾相关性和多样性的检索算法。
  2. 原理：
     • 在检索时，既考虑候选文档与查询的相似度，也考虑与已选文档的差异性。
     • 通过参数λ（lambda）平衡"相关性"和"多样性"，每次选取与查询最相关且与已选文档最不相似的文档。
  3. 与普通相似度检索的区别：
     • 普通检索只按与查询的相似度排序，可能返回高度重复的内容。
     • MMR能有效去重，提升信息覆盖面，避免"答案同质化"。
  4. 在RAG中的应用优势：
     • 提高召回率和答案多样性，适合长文档、知识点分散的场景。
     • 避免生成模型只基于单一片段作答，提升答案的全面性和准确性。
  5. 举例：
     • 用户问"数据库优化方法"，MMR会返回不同类型的优化建议（如索引、分区、SQL调优），而不是只给一类答案。

34-向量数据库在AI应用中的作用是？请对比主流向量数据库选型建议。

• 题目分析和考点

  • 考察对向量数据库基本原理、主流产品（如Milvus、FAISS、Pinecone、Chroma）优缺点的理解。
  • 易错点：只会说"存向量"，不清楚分布式、过滤、索引等关键特性。
  • 面试官关注：考生是否能结合实际业务需求做出合理选型。
  • 实际项目应用：能否举例说明不同数据库的适用场景。

• 难度【 * * * 】

• 答案

  1. 向量数据库用于存储和检索高维向量（如文本、图片、音频的嵌入向量），支持高效的相似度搜索，是RAG、推荐系统、图像检索等AI场景的基础设施。 | 场景 | 案例 | 核心需求 | | --- | --- | --- | | 推荐系统 | 电商商品推荐 | 高并发低延迟 | | 语义搜索 | 法律条文检索 | 高精度召回 | | AI代理记忆 | GPT长期记忆存储 | 快速上下文检索 | | 图像检索 | 以图搜图系统 | 多模态支持 |

  2. 主流产品对比：

     • Milvus：分布式、支持大规模数据、元数据过滤、自动索引管理，适合企业级、海量数据场景。
     • FAISS：本地库，速度快，适合小规模、单机场景，不支持分布式和复杂过滤。
     • Pinecone：云原生、分布式、易扩展，支持元数据过滤，适合云端SaaS应用。
     • Chroma：本地为主，支持元数据过滤，适合中小型项目和快速原型开发。

  3. 选型建议：

     • 数据量大、需分布式部署选Milvus或Pinecone。
     • 本地开发、资源有限选FAISS或Chroma。
     • 需复杂过滤、自动索引优先Milvus/Pinecone。

  4. 举例：

     • 企业知识库RAG系统，推荐用Milvus；个人项目或小型应用可用FAISS或Chroma。

35-大模型推理和检索系统中优化手段有哪些？请结合实际场景说明。

• 题目分析和考点

  • 考察对大模型推理、检索系统性能优化手段的理解，包括缓存、分批、量化、并发等。
  • 易错点：只会说"加缓存"，不清楚各优化手段的适用场景和原理。
  • 面试官关注：考生是否能结合实际业务瓶颈提出针对性优化方案。
  • 实际项目应用：能否举例说明优化带来的实际收益。

• 难度【 * * * 】

• 答案

  1. 常见优化手段：
     • 缓存：对嵌入向量、检索结果、模型输出等进行缓存，减少重复计算。
     • 批量处理（Batching）：将多条请求合并，提升吞吐量，降低API调用成本。
     • 模型量化/蒸馏：降低模型精度或体积，提升推理速度，适合边缘部署。
     • 并发/异步处理：提升系统并发能力，减少等待时间。
     • 分布式部署：多节点协同，适合大规模数据和高并发场景。
     • 分块检索/分层召回：先粗后细，提升检索效率。
  2. 举例：
     • 智能客服系统高峰期，采用批量嵌入和缓存，响应速度提升3倍。
     • 移动端部署大模型，采用量化模型，推理延迟降低50%。

36-请结合实际业务场景设计一个基于RAG和向量数据库的智能问答系统

• 题目分析和考点

  • 考察对RAG系统架构设计、各模块协作、实际落地能力的理解。
  • 易错点：只会画流程图，不清楚每个模块的具体作用和技术选型。
  • 面试官关注：考生是否能结合业务需求，合理拆解系统并说明技术细节。
  • 实际项目应用：能否举例说明系统如何应对知识更新、扩展等需求。

• 难度【 * * * * 】

• 答案

  1. 设计场景：企业内部知识库智能问答系统。
  2. 系统模块：
     • 文档加载器：定期从企业文档、手册、公告等多源加载数据。
     • 文档分块与预处理：将长文档按语义分块，清洗噪音，提取元数据。
     • 嵌入模型：将分块文本转为向量，便于后续检索。
     • 向量数据库：存储所有文档向量，支持高效相似度检索和元数据过滤。
     • 检索器：根据用户问题检索最相关的文档片段，支持MMR等多样性策略。
     • 生成模型（LLM）：结合检索结果和用户问题生成自然语言答案。
     • 缓存与监控：缓存高频问题结果，监控系统性能和知识库更新。
  3. 技术选型：如Milvus+DashScopeEmbeddings+LangChain。
  4. 应对知识更新：定期增量加载新文档，自动嵌入并更新向量库。
  5. 举例：
     • 新员工入职，提问"公司报销流程"，系统检索最新政策文档并生成个性化解答。

37-什么是Prompt工程？请说明设计的关键原则和常见优化方法。

• 题目分析和考点

  • 考察对Prompt工程（Prompt Engineering）基本概念、设计原则、优化技巧的理解。
  • 易错点：只会写简单指令，不理解Prompt对模型输出的影响。
  • 面试官关注：考生是否能结合实际业务需求设计高效Prompt，能否举例说明优化过程。
  • 实际项目应用：能否通过Prompt提升模型准确率、减少幻觉。

• 难度【 * * * 】

• 答案

  1. Prompt工程是指为大语言模型（LLM）设计和优化输入提示词（Prompt），以引导模型输出符合预期的结果。
  2. 关键原则：
     • 明确具体：问题描述要清晰、具体，避免歧义。
     • 结构化输入：可用模板、分步指令、示例等结构化方式提升效果。
     • 约束输出：通过限定格式、字数、风格等减少模型自由发挥。
     • 迭代优化：根据输出结果不断调整Prompt内容。
  3. 常见优化方法：
     • Few-shot/Zero-shot：给出示例或直接提问。
     • Chain-of-Thought（思维链）：引导模型分步推理。
     • 明确要求引用来源、标注不确定性等。
  4. 举例：
     • 问"请用三句话总结以下内容，并给出出处"，比"总结一下"更易获得高质量答案。

38-请解释Agent智能体在AI系统中的作用及其与传统RAG的区别。

• 题目分析和考点

  • 考察对Agent智能体（如LangChain Agent）概念、工作机制、与RAG的区别的理解。
  • 易错点：混淆Agent与RAG、只会背定义不懂实际流程。
  • 面试官关注：考生是否能结合多步推理、工具调用等场景说明Agent优势。
  • 实际项目应用：能否举例说明Agent在复杂任务中的应用。

• 难度【 * * * 】

• 答案

  1. Agent智能体是一种具备自主决策和多步推理能力的AI组件，能根据任务动态选择工具、规划执行流程。
  2. 与传统RAG区别：
     • RAG主要是"检索+生成"单轮问答，流程固定。
     • Agent可根据上下文动态调用检索、计算、API等多种工具，支持多轮对话、复杂任务拆解。
  3. 典型应用：
     • 智能助理自动完成表格、查找资料、发送邮件等多步任务。
     • 技术支持机器人根据用户问题自动选择知识库、外部API、甚至代码执行。
  4. 举例：
     • 用户问"帮我查下明天北京天气并发邮件给我"，Agent会先查天气，再调用邮件API发送结果。

39-什么是知识蒸馏？其在大模型落地中的作用和常见流程是什么？

• 题目分析和考点

  • 考察对知识蒸馏原理、流程、实际应用价值的理解。
  • 易错点：只会说"模型压缩"，不清楚师生模型、蒸馏损失等细节。
  • 面试官关注：考生是否能结合推理速度、部署成本等分析蒸馏的意义。
  • 实际项目应用：能否举例说明蒸馏带来的性能提升。

• 难度【 * * * 】

• 答案

  1. 知识蒸馏是一种模型压缩技术，通过让小模型（学生模型）学习大模型（教师模型）的输出分布，实现模型轻量化。
  2. 作用：
     • 提升推理速度，降低部署成本，便于在移动端、边缘设备等资源受限场景落地。
     • 保留大模型的知识和能力，提升小模型性能。
  3. 常见流程：
     • 训练大模型（教师模型），获得高精度输出。
     • 用教师模型对训练数据进行推理，生成"软标签"。
     • 用软标签和原始标签共同训练学生模型，最小化蒸馏损失。
  4. 举例：
     • 将GPT-3蒸馏为小型Transformer模型，推理速度提升5倍，精度损失很小。

40-请解释召回率和准确率在AI检索系统中的含义及其关系。

• 题目分析和考点

  • 考察对召回率、准确率定义、计算方式、实际意义的理解。
  • 易错点：混淆两者概念，不会计算或分析权衡。
  • 面试官关注：考生是否能结合实际检索场景分析指标取舍。
  • 实际项目应用：能否举例说明如何根据业务需求调整召回率和准确率。

• 难度【 * * 】

• 答案

  1. 召回率（Recall）：检索系统找全相关结果的能力，=检索出的相关文档数/所有相关文档数。
  2. 准确率（Precision）：检索系统返回结果的相关性，=检索出的相关文档数/检索出的总文档数。
  3. 权衡关系：
     • 提高召回率可能降低准确率（返回更多结果，相关性下降）。
     • 提高准确率可能降低召回率（只返回最相关，漏掉部分正确答案）。
     • 实际应用需根据业务需求权衡，如医疗、法律等场景更重视召回率，广告推荐更重视准确率。
  4. 举例：
     • 检索100篇相关文档，系统找出80篇，召回率80%；其中60篇是相关的，准确率60%。