Groq LPU 的架构如何支持语言模型推理？

知识专题：分布式训练与计算硬件题目类型：原理机制技术难度：进阶

收录题集：2 份

暂无参考答案

未标记

询问 AI

选择 AI 平台

Kimi 千问 ChatGPT

自动带入当前题目

本题目录

收录题集

2 份

LLM推理系统问答

阿东玩 AI · AgentGuide · 1 条原题

查看题集 →

原文作者: Lamhot Siagian / AI Engineering Insider

- Describe the trade-offs between deploying inference on a Groq LPU versus an NVIDIA H100.

AI 基础设施

AMIT SHEKHAR · ai-engineering-interview-questions · 1 条原题

查看题集 →

- How does an LPU work?