使用 FBTriton 改进表批量嵌入运算
本文探讨用于表批量嵌入(TBE)前向和反向传播的 FBTriton 内核设计。这些核心算子处理推荐系统中分布在数千个分片 GPU 上的嵌入查找……本文最初发布于 PyTorch。
本文探讨用于表批量嵌入(TBE)前向和反向传播的 FBTriton 内核设计。这些核心算子处理推荐系统中分布在数千个分片 GPU 上的嵌入查找……本文最初发布于 PyTorch。
摘要:如果需要对图像、视频或音频进行解码或编码,请使用 TorchCodec。如果需要转换媒体,请使用 TorchVision 处理图像和视频,以及……本文最初发布于 PyTorch。
摘要:加速器集成工作组在规范新硬件架构接入开源 AI 生态的方式方面发挥着重要作用。随着计算平台在云端、边缘端等领域不断多样化……本文最初发布于 PyTorch。
摘要:我们将 Helion 集成到 vLLM 的线性运算后端,探索可自动调优的高层内核领域专用语言(DSL),如何在降低内核实现复杂度的同时改善大语言模型推理性能。一个通用的 Helion……本文最初发布于 PyTorch。
我们很高兴推出新的 PyTorch Certified Associate(PTCA)认证路径,将重点学习模块与 PTCA 认证考试整合为一套有组织的学习体验……本文最初发布于 PyTorch。
摘要:本文介绍我们在 NVIDIA Blackwell(B200)上实现不规则 Flash Attention(JFA)的工作。JFA 是 Meta 生成式广告模型(GEM)所使用的注意力内核,构建于……本文最初发布于 PyTorch。
摘要:再过几周,PyTorch Conference North America 2026 将在圣何塞举行,汇聚开源 AI 社区,分享想法并开展合作。如果你已经……本文最初发布于 PyTorch。
摘要:PyTorch 的跨仓库 CI 中继(CRCR)为树外加速器提供了一种简洁、可扩展的方式,使其能够接入上游 CI,同时让各后端自由决定采用 PyTorch 的哪些……本文最初发布于 PyTorch。