近日，2017 年图灵奖得主、被称为“RISC 之父”的 David Patterson 最近与 Google DeepMind 高级工程师马晓宇在 IEEE Computer 联合发表了一篇论文——“关于大语言模型推理硬件的挑战与研究方向”，引发了科技圈的关注与讨论。 （来源：arXiv） David Patterson，这位 RISC 架构的奠基人、影响了全球 99% 微处理器设计的计算机科学家，在论文开篇就抛出了一个尖锐的判断：当前 AI 芯片的设计思路，即满载的算力、堆叠的 HBM（High Bandwidth Memory，高带宽内存）、带宽优先的互联，与大语言模型推理的实际需求严重...

排队装“龙虾”的热潮即将吹到加州圣何塞。算力巨头英伟达下周将举行年度GTC大会。今年除了发布新产品外还有特别的现场互动环节——英伟达技术专家现场帮忙装“龙虾”。据英伟达官方博客介绍，在下周一至周四的GTC大会期间，除了黄仁勋周一演讲的两个小时外，GTC公园将全程举行“搭建龙虾”活动，与会者可以在现场部署一个始终在线的AI助手。算力巨头也含蓄地指出，希望大家能带着英伟达芯片驱动的设备来参加活动，包括算力（和价格）都远远超过Mac Mini的个人超算DGX Spark，现场将提供硬件购买，也可以将“龙虾”直接部署在云端。官方数据显示，下周将有来自全球19...

黄仁勋是这个星球上最会讲故事的商人之一。 但他这次，连故事都懒得讲了——直接甩出一份SEC文件，260亿美元，五年，开源AI大模型，全产业链覆盖。 这个数字意味着什么？OpenAI训练GPT-4耗资约30亿美元。英伟达这260亿，是那个数字的将近9倍。这不是投资，这是宣战——对整个AI大模型行业的宣战。 买铲子的为什么要下场？ 在过去三年，英伟达扮演的角色无比惬意——卖铲子的。你们去淘金，我给你们卖工具，H100卖两万美金一张，H200继续涨，B200再翻倍。OpenAI训练，Anthropic训练，谷歌训练，百度训练，字节训练……全行业都在给英伟达打工，心甘情愿。 这是历史上最完美的商业模式...

据报道，因AI芯片需求持续激增，Groq已向三星电子晶圆代工部门提出要求，增加其推理AI芯片的晶圆产量，这一举措也反映出当前市场需求的蓬勃态势。业内消息人士预计，三星晶圆代工业务将通过深化与Groq的合作、扩大产能，进一步提升盈利能力。 Groq计划将2025年在三星晶圆代工的晶圆订单，从约9000片增加至约1.5万片，增加近67%。 分析人士指出，2025年的订单量主要用于生产样品芯片，这些芯片将用于验证实际场景中的AI推理应用，而大规模商业化量产则将于2026年启动。 尽管Groq的订单规模仍相对有限，但三星晶圆代工正积极争取此类合同，以期在推理AI芯片领域站稳脚跟。除Groq外，韩国初创...