#Hacker News
Cerebras 称其硬件可部署万亿参数模型
7/10cerebras.ai · ⭐️ 7/10 · 2026-10-26
Cerebras 发布博客文章,称其晶圆级硬件能够部署参数规模达万亿级的前沿 AI 模型。可获取的摘录没有说明具体是哪些模型、推理吞吐或延迟数据,也没有给出开放使用的时间表,因此这目前仍是厂商层面的部署能力说明,而非独立验证的结果。对关注大模型推理基础设施的读者而言,关键待确认信息是模型目录、实际性能和可获得的容量。
DeepSeek 上线 DeepInfer 推理框架仓库,细节与基准尚未披露
7/10github.com · ⭐️ 7/10 · 2026-10-21
DeepSeek 在 GitHub 上发布了名为 DeepInfer 的仓库,并将其定位为面向 DeepSeek 模型的高性能推理框架,该仓库在 Hacker News 上引发了大量讨论。但本次条目未附带任何仓库内容,既没有文档,也没有版本号、基准数据或硬件兼容清单,因此其吞吐、延迟与部署成本目前无法核实。讨论中的具体性能数字均来自评论者转述的第三方文章,而非官方材料。
Llmspeed:购机前预览本地 LLM 推理速度的网页工具
7/10llmspeed.dev · ⭐️ 7/10 · 2026-10-18
Llmspeed 以 Show HN 形式发布,是一个网页工具,让开发者在为本地 LLM 采购硬件之前,先查看特定模型与显卡组合的推理速度(tok/s)预估。站内数字来自基准测试,属于某一时点的性能快照,而不是在用户自己机器上实测的结果。它面向想在消费级或旧款 GPU 上跑本地模型、又不愿先花钱试错的人。