大模型面试 / 微调篇

共 39 篇。

• 4.大模型微调流程是怎样的?
• 5.模型微调怎么评估效果
• 6.怎么针对超长文本进行微调训练
• 9.如何利用大模型实现多模态任务
• 10.如何降低大模型API服务的推理延迟和成本
• 11.什么是过拟合和欠拟合
• 12.解释下全参数微调、Lora、QLora区别
• 15.解释下模型蒸馏和模型量化
• 17.什么是大模型epoch和学习率
• 18.vllm的推理加速是怎么实现的
• 20.PPO与DPO的区别
• 21.微调时模型遗忘怎么解决
• 27.大模型训练中梯度消失和爆炸的解决方案
• 28.大模型评估指标BLEU、ROUGE、Perplexity适用场景
• 29.知识蒸馏的原理及适用场景
• 30.模型量化的方法及推理加速效果
• 31.对比AE、VAE、GAN的生成机制
• 34.GPT与BERT的核心区别及各自优势
• 41.全参数微调需要多少显存？
• 42.LoRA的原理及参数量计算
• 43.对比SFT、RLHF、DPO的优劣
• 44.大模型灾难性遗忘的解决方案
• 45.DeepSpeed ZeRO的显存优化策略
• 46.混合精度训练的实现步骤及Loss Scaling作用
• 47.梯度累积的计算原理与显存优化效果
• 53.多模态大模型的跨模态对齐方法
• 56.大模型API服务部署优化
• 57.如何估算模型推理所需显存
• 58.大模型服务GPU选型
• 61.大模型推理性能优化方案
• 62.分布式训练中的梯度累积实现原理
• 64.模型蒸馏的蒸馏策略对比
• 69.模型量化对推理速度的影响评估
• 70.自动化测试框架在LLM开发中的应用
• 71.多语言模型的对齐与融合策略
• 74.基于强化学习的对话策略优化
• 78.多模态预训练数据集构建流程
• 81.模型微调的数据增强技术
• 83.基于知识蒸馏的小模型部署方案