AI系统与训练推理工程
【量化GEMM算子实现】用CUDA/Triton/Tilelang/任何我可以的语言实现一个quant GEMM算子。 「腾讯混元」
原题部署设备配置是什么？ 「百度」
原题【K8s监测插件】k8s里面的cAdvisor和DCGM exporter监测插件是什么？ 「阿里巴巴」
原题【llama.cpp】llama.cpp了解吗？ 「字节跳动」
原题【PD分离概念】pd分离(没细问，简单说说怎么回事)? 「字节Seed」
原题【Sandbox】sandbox了解过吗？ 「阿里巴巴」
原题【向量存储位置】向量是存在本地吗？ 「美团」
原题【推理框架使用经验】你在项目中用过哪些模型推理框架？请列举大模型推理部署的主流框架。vLLM用过吗？vLLM API Server？线上推理用的是什么？ 「字节跳动、腾讯混元、阿里巴巴」
原题【日志结构化】日志怎么结构化？ 「美团」
原题【本地AI coding】你本地能不能AI coding？ 「阿里通义」
原题
暂无题目