AI系统与训练推理工程
【量化精度损失评估】量化后如何评估精度损失？请说明量化带来的精度问题。 「字节跳动、百度」
原题【量化范围确定】量化范围确定：为什么要按绝对值最大值去决定范围？ 「百度」
原题【量化训练】只做了SFT，没做后续训练是吧，最后有对模型做量化吗？ 「腾讯混元」
原题【量化部署】量化部署：对模型量化部署有了解吗？是否应用过量化或动态批处理等技术？ 「京东、腾讯混元」
原题【AWQ原理】AWQ的核心思想与原理。 「小红书、百度」
原题【INT8量化实现】手写算法：实现INT8 Per-Tensor量化与反量化函数。 「腾讯」
原题【KVCache量化】如何进行KVCache的INT8量化？ 「字节跳动」
原题【LoRA与QLoRA对比】讲下lora和qlora的区别，具体差异在哪？ 「阿里通义」
原题【PTQ与QAT对比】后量化(Post-Training Quantization)与量化感知训练(Quantization-Aware Training)的区别？ 「百度」
原题【QLoRA】QLoRA相比标准LoRA做了哪些改进？QLoRA是怎么降低资源成本的？QLoRA为什么选择NF4和FP16这组组合？QLoRA在内存优化上的具体实现？层到QLoRA量化。 「京东、百度、美团」
原题
暂无题目