天数智芯称天垓 300 实测性能达英伟达 H200 水平，单卡吞吐约为 1.05 倍
天数智芯在上海媒体开放日首次公开展示天垓 300 实机运行，并称其成为国内首个实测性能达到英伟达 H200 水平的通用 GPU，第三方实测折算单卡整体吞吐约为 H200 的 1.05 倍。
#部署/工程
#部署/工程
今日 10 条IT之家AI 评分5555 开源中国AI 评分2222 DjangoAdmin 敏捷开发框架 FastAPI+NaiveVue 版本 v2.7.3 发布
DjangoAdmin 敏捷开发框架 FastAPI+NaiveVue 版 v2.7.3 发布，修复近期用户反馈的问题。
开源中国AI 评分4545 做了个免费、无水印、仅 2.3MB 的 Mac vlog 剪辑软件 FrameCut，专为 M 芯片优化
FrameCut 是一款专为 M 芯片优化的 Mac vlog 剪辑软件，免费、无水印、仅 2.3MB，作者自用后已开源。编解码走媒体引擎，调色和转场走 Metal GPU，语音转字幕走神经网络引擎，CPU 基本闲置。M2 上实测，3 分钟 vlog 导出 1080p 约 26 秒，4K 约 95 秒。
GitHub Trending 日榜 · Jupyter NotebookAI 评分3131 DataTalksClub 免费 Machine Learning Zoomcamp 课程仓库登上 GitHub 日榜
DataTalksClub/machine-learning-zoomcamp 是免费实践课程，教授构建、评估和部署机器学习系统，2026 期于 9 月 14 日开课，可跟随直播或自学。
GitHub Trending 日榜 · Jupyter NotebookAI 评分3535 Chip Huyen《AI Engineering》配套资源仓库登上 GitHub 日榜
chiphuyen/aie-book 是《AI Engineering》一书的配套仓库，包含目录、章节摘要、学习笔记、AI 工程资源、提示词示例和案例研究等，该书讲解如何端到端地改造基础模型解决真实问题。
GitHub Trending 日榜 · GoAI 评分2323 OpenTelemetry Collector 登上 GitHub Go 日榜
open-telemetry/opentelemetry-collector 提供与厂商无关的遥测数据接收、处理和导出实现，免去为 Jaeger、Prometheus 等格式分别运行多个采集器的需要。
NVIDIA Technical BlogAI 评分2626 Kubernetes 中基于 NVIDIA CUDA 13.4 的内存强制 GPU 共享
NVIDIA CUDA 13.4 在 Kubernetes 中支持内存强制的 GPU 共享。许多 AI 工作负载只需 GPU 的一小部分，整卡分配会让容量闲置，共享 GPU 可使平台团队用现有基础设施服务更多工作负载。NVIDIA GPU 已支持多种共享方式，其中 MIG 可将 GPU 拆分为硬件隔离、对应用透明的实例。
AWS Machine Learning BlogAI 评分4141 Amazon SageMaker AI 训练任务支持 SOCI 索引镜像以加快启动
AWS 宣布 SageMaker AI 训练和处理任务支持 Seekable OCI（SOCI）索引，不必等待完整容器镜像下载即可启动任务，减少每次任务数分钟的计费开销。
AWS Machine Learning BlogAI 评分3333 Exowatt 用 SageMaker 无服务器模型定制在准确率上超过前沿模型
太阳能储能公司 Exowatt 介绍其借助 SageMaker 无服务器模型定制功能训练专用模型，在自身任务上准确率超过前沿通用模型。
Tech StartupsAI 评分5656 General Compute 融资 1 亿美元打造挑战 NVIDIA GPU 的推理云
旧金山初创公司 General Compute 完成 1 亿美元 A 轮，由 Blackbird 和 Abstract Ventures 共同领投，估值约 8 亿美元（种子轮后约 6000 万美元），押注 Cerebras、SambaNova、Positron 等专用芯片运行推理比 GPU 更快更省。
Tech StartupsAI 评分4949 Hyperbolic 融资 3000 万美元打造全球 AI 算力网格
AI 基础设施初创公司 Hyperbolic 获 3000 万美元战略融资，由英特尔 CEO 陈立武联合创办的 Walden Catalyst 领投，A-1 轮后累计融资 5000 万美元，用于连接数百家云厂商的闲置 GPU。
NVIDIA Technical BlogAI 评分2121 在 NVIDIA DGX Spark 上提升 MoE 推理性能的 3 种方法
在 NVIDIA DGX Spark 上对 Inclusion AI 的 Ling-3.0-flash 做 batch-size-1 评测并分析，发现解码阶段受内存带宽限制，读取模型权重占据主要执行时间。瓶颈集中在 MoE 计算和输出层投影两个环节，NVIDIA 据此给出 3 种提升 MoE 推理性能的方法。
TechCrunch 创业版AI 评分4747 NVIDIA 参投印度推理优化初创 Simplismart 1400 万美元 B 轮
印度初创公司 Simplismart 完成 1400 万美元 B 轮，Dallas Venture Capital 领投，NVIDIA、Accel 等参投，估值约 1 亿美元，其软件帮助企业更高效地运行 AI 模型，部分场景可减少 GPU 用量。
Product HuntAI 评分4848 Paddock 开源：在自有 VPS 上给每个 AI 智能体一台 Linux 电脑或沙箱
Paddock 在 Product Hunt 发布，可在用户自己的一台 VPS 上为每个 AI 智能体分配独立的 Linux 电脑或锁定沙箱，免费开源，采用 MIT 许可证。
Together AI BlogAI 评分5555 Together AI 详解 GPU 集群自动修复：从故障到健康节点
Together AI 宣布其 GPU 集群自动修复功能全面可用，并详细拆解了从故障检测到节点恢复的完整流程。系统在虚拟机和宿主机两侧同时监控 Xid 错误、ECC 双位错误、InfiniBand 链路抖动等信号，按故障类型推荐最轻的修复动作，支持逐故障审批或全自动执行。修复按重启、快速重建、迁移主机逐级升级，并配有冷却、并发预算和熔断机制来应对告警风暴。
AWS Machine Learning BlogAI 评分3939 用 SageMaker SDK v3 管理边缘端视觉模型的全舰队生命周期
AWS 介绍工厂质检场景中，概念验证成功后如何用 SageMaker SDK v3 把计算机视觉模型扩展到 40 条产线、多摄像头，并管理各摄像头差异带来的模型生命周期问题。
Ars Technica · AIAI 评分4747 劫匪伪造 GPS 劫走价值上亿美元的数据中心设备
据 NBC News，自 6 月以来窃贼利用 GPS 欺骗等数字手段劫持运往数据中心的货车，盗走的数据中心货物价值超过 1 亿美元。
NVIDIA Technical BlogAI 评分2020 NVIDIA Minerva 如何将遥测乱象转化为峰值 GPU 利用率
NVIDIA Minerva 将 AI 工厂的遥测数据混乱转化为峰值 GPU 利用率。AI 工厂由数十万 GPU、Spectrum-X Ethernet 与 NVLink 网络架构、分布式调度器和多周训练运行构成，各层次即使由不同团队管理，也作为单一生产系统协同工作。
NVIDIA Technical BlogAI 评分2020 NVIDIA Mission Control 2.5 如何为 Kubernetes 带来自主恢复
NVIDIA Mission Control 2.5 为 Kubernetes 带来自主恢复（Autonomous Recovery）。在数千 GPU 上训练大规模 AI 模型时，监测与自动化必须内置，以优化集群弹性与运行时间；相比传统数据中心以 MTTR、MTBF 衡量运维，AI 工厂的风险更高。
MarkTechPostAI 评分4949 清华与港中文开源 AKV，在 SGLang 上为 Agent 做 KV Cache 工程
清华大学和香港中文大学研究者开源 AKV 服务系统，让 LLM Agent 直接丢弃选定的 KV cache 而不是总结旧历史，构建在 SGLang 之上。
Hugging Face BlogAI 评分3939 Hugging Face 上线查询模型能否在 AWS Trainium 运行的工具
Hugging Face 推出 torch-neuronx 模型支持 Space，可查询 Hub 上热门 Transformers 模型能否通过原生 PyTorch 后端 TorchNeuron 在 AWS Trainium 上运行。
MIT Technology Review · AIAI 评分3131 MIT 科技评论：打造经得起时间的 AI 服务框架
文章认为企业 AI 的竞争优势正从选择哪个模型转向围绕模型构建什么，强调可持续的 AI 服务 harness 设计。
Latent SpaceAI 评分5151 Modal CEO Erik Bernhardsson：为什么 AI 算力以“矩形”形式出售
借 Modal 完成大额 D 轮之际，Latent Space 采访 CEO Erik Bernhardsson，讨论真正无服务器的 AI 基础设施愿景以及 GPU 算力供给形态。
NVIDIA BlogAI 评分3838 NVIDIA 推出 AI 工厂可观测性平台 Minerva
NVIDIA 发布 AIOps 平台 Minerva，汇总基础设施和 AI 工作负载遥测数据，并用专用 AI 模型转化为及时可执行的洞察，帮助团队更早发现问题。
MIT Technology Review · AIAI 评分3131 MIT 科技评论：AI 推理留下的隐性存储账单
文章指出企业谈 AI 成本多想到 GPU 和电力，却忽略每天数十亿提示、图片和视频产生的后端数据存储成本。
NVIDIA BlogAI 评分3737 企业用 NVIDIA DSX 平台缓解 AI 工厂电力瓶颈
NVIDIA 称电力已成为基础设施最大瓶颈，超过 3000 亿美元设备积压、美国 200 多吉瓦项目排队并网，多家公司用 DSX AI Factory 平台把电网与 AI 工厂作为一个系统规划、仿真和运行。
Hugging Face BlogAI 评分5252 专门化小模型词表可在实际应用中把推理成本降低 77%
团队预览即将发表的 VocabX 论文：基于 Qwen、Gemma 等开源模型微调的领域模型继承了通用词表，在其生产环境的作文评分器中常用文本被切成过多 token，专门化词表后推理成本降低 77%。
Hugging Face BlogAI 评分3939 TorchNeuron 性能分析（一）：AWS Trainium 系统级剖析
Hugging Face 系列教程第一篇，从零讲解如何在 AWS Trainium 上系统分析推理性能、定位时间消耗，不要求读者有性能分析经验。
Latent SpaceAI 评分7171 DeepSeek 开源推理系统 DeepInfer：单集群日处理 155T token
DeepSeek 在 PyTorch Conf 首日开源 SOTA 推理系统 DeepInfer，Latent Space 援引数据称其单集群每天处理 155T token、日收入约 2200 万美元、毛利率约 80%、81 天回本，是对 Fireworks、Baseten 等闭源推理公司的开源回应。
Latent SpaceAI 评分4444 SF Compute 的 Evan Conrad：可编程数据中心
SF Compute 的 Evan Conrad 在 AIE NYC 算力交易分会场接受采访，以软件定义网络为类比讨论可编程数据中心与算力交易。
Launch HN（YC 公司）AI 评分4545 Launch HN：Respan（YC W24）开源基于插件的 Rust AI 网关
YC W24 公司 Respan 在 Launch HN 发布开源 Rust AI 网关，以插件为核心架构。
Latent SpaceAI 评分5959 Modal 年化收入达 10 亿美元，D 轮后估值 160 亿美元
Latent Space 报道 AI 基础设施公司 Modal 完成 D 轮后估值 160 亿美元，年化收入 10 亿美元，五个月内用量和估值都增长 3 倍、一年增长 15 倍，成为纽约最新的 AI 基础设施“十角兽”。
Launch HN（YC 公司）AI 评分5050 Launch HN：Magnitude（YC S25）开源自优化推理引擎，称比 Ollama 快 2 倍以上
Magnitude 是开源推理引擎，会在用户硬件上调优 kernel 找到运行每个模型的最快方式，称比 Ollama 快 2 倍以上，支持 Apple Silicon、NVIDIA、AMD、Intel 和纯 CPU。提供桌面应用和 CLI，可一键连接 Pi、OpenCode、Hermes、Codex 等智能体。
Berkeley AI ResearchAI 评分4747 BAIR K-Search：把 CUDA 内核优化经验迁移到 Apple Silicon 的 MLX
伯克利 BAIR 提出 K-Search，把 CUDA 优化知识翻译成符合 MLX 架构的原生策略，而不是逐条照搬指令，用于在 Apple Silicon 上自动优化内核。