Triton 是一种类似于 Python 的开源编程语言,它可以使没有 CUDA 经验的研究人员顺利编写高效的 GPU 代码(可以理解为简化版 CUDA),而且号称小白也可以写出与专业人士相媲美的代码,就是让用户用相对较少的努力实现最高的硬件性能,但 Triton 初期只支持英伟达 GPU。
OpenAI 声称:Triton 只要 25 行代码,就能在 FP16 矩阵乘法上达到与 cuBLAS 相当的性能。
从 Github 我们可以看到,OpenAI 已经开始在最新的 Triton 版本中合并 AMD ROCm 相关分支代码,也正因此暴露了很多东西。也就是说,最新 Triton 后端已适配 AMD 平台,可谓意义重大。
通过官方的说法来看,他们已经通过了“test_core.py”上的大多数单元测试环节,但由于各种原因跳过了一些测试。
注意到,OpenAI 还宣布将于 9 月 20 日上午 10 点至下午 4 点在加利福尼亚州山景城的微软硅谷园区举行 Triton 开发者大会,而日程安排中就包括“将 Triton 引入 AMD GPU”和“Triton 的英特尔 XPU”两大环节,预计 Triton 将很快摆脱英伟达 CUDA 垄断的历史。
值得一提的是,Triton 是开源的,比起闭源的 CUDA,其他硬件加速器能直接集成到 Triton 中,大大减少了为新硬件建立 AI 编译器栈的时间。
在此前发布的 PyTorch 2.0 版本中,TorchInductor 便引入了 OpenAI Triton 支持,可为多个加速器和后端自动生成快速代码,同时实现用 Python 取代 CUDA 编程来写底层硬件的代码。也就是说,Triton 已经是 PyTorch 2.0 后端编译器关键构成部分。
实际上,此前 AMD ROCm 则主要是采用 Hipify 工具实现CUDA 兼容,而随着 AMD 开始为 RDNA 3 消费级显卡提供 ROCm 支持,预计后续将会有更多平台选择适配 AMD 硬件。
关键词:
免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。
投诉邮箱:Email:133 46734 45@qq.com在暂停几乎所有投资活动数月后,软银选择进军物流自动化领域,该公司提出以 2 18 亿美元(当前约 14 85 亿元人民币)...
在今日举行的 2023 年华为云数字文娱 AI 创新峰会上,华为云全球 Marketing 与销售服务总裁石冀琳表示,华为云将在后续推出盘古
OpenAI公司最近承认,ChatGPT模型已经变得懒惰,这可能会对人工智能的未来产生影响。 这一消息是在用户广泛报道该型号...
新型人工智能聊天机器人模型ChatGPT横空出世,引发轰动。根据瑞银集团的报告,ChatGPT的活跃用户数或已达1亿,成为史上增...
据路透社报道,日本一家名为 Tsubame Industries 的新创公司日前开发出一款高 4 5 米的机器人,其拥有酷似高达的外形,配备 4
在 2023 年中关村论坛人工智能大模型发展论坛中,北京智源人工智能研究院推出了旗下通用分割模型 SegGPT(Segment Everything In
今年9月于Microsoft 365 Copilot第二波更新推出名为Copilot agents (Copilot代理)的自动化应用工具,藉此让用户的工作效率能藉由人
英特尔通过成立Articul8 AI(一家致力于推进生成式人工智能的新独立公司)在人工智能 (AI) 领域掀起波澜。英特尔与几位知名...
美国航空航天局(NASA)工程师表示,他们正在研发一种类似于《2001 太空漫游》中的超级电脑 HAL 9000 的人工智能(AI)界面,未来可能
针对今年在Google I O 2024宣布推出,并且先在美国市场以测试性质推出的AI Overviews搜索结果总结功能,目前进一步开放印度、日本、
英伟达宣布将近期兴盛的自动生成式人工智能带到Jetson机器人平台,借此加速机器人计算机视觉、深度学习等应用,借此对应...
人工智能(AI)应用除能够辅助日常工作外,亦逐渐用于生活消费领域。 美国零售商沃尔玛在CES 2024上宣布与微软合作,并发布AI...
WooHoo 是一家总部位于硅谷的解决方案提供商,也是 WooHoo X 系列的开发商,WooHoo® X 系列是一款屡获殊荣的豪华酒店业企业
Mark Gurman再次透露苹果接下来将于WWDC 2024期间公布的人工智能技术,将以Apple Intelligence为称,名称缩写恰好是AI。 依照Mar
继华为鸿蒙 4 0 为小艺接入 AI 大模型、小米大模型首曝之后,OPPO、vivo 也逐渐开始在大模型领域发力。 OPPO 官方今日宣布,
据路透社报道,以色列人工智能公司 Watchful Technologies 称,TikTok 正测试一款 AI 聊天机器人,该工具可与用户交流短视频相关
今日,全球知名音频品牌AKG发布旗下全新力作——N5 Hybrid真无线降噪耳机。该产品承袭AKG的高标准参考级音质,并融入全...
谷歌的 AI 聊天工具 Bard 此前支持语言有限,最初只支持英语,后来支持了韩语和日语等,而当下 Bard AI 已经更新了中文环境,可
Meta 于去年推出第二代Ray-Ban Meta智能眼镜,搭载高通骁龙AR1 Gen1 平台,可录制高画质影像及拍照片,内建麦克风与喇叭。智能Meta AI
AI 作画工具 Midjourney 日前更新了 5 2 版本,主要带来了Zoom out功能,可以模拟相机的超广角、中长焦效果,为图像添加不同焦段
4 月 9 日消息,根据美国商标和专利局(USPTO)近日公示的清单,微软携手 OpenAI 构想了一个声音识别 AI 技术专利,不仅能够识别门
配合接下来的人工智能应用趋势,微软在此次Ignite 2023宣布于Windows 11整合诸多人工智能应用功能,并且将Copilot功能...
最近,一款名为ChatGPT的智能聊天机器人火爆全球,短短两个多月就成功收获了超1亿用户,成为史上增速最快的消费级应用程...
Poe 是由知名问答网站 Quora 创立的一个 AI 聊天机器人平台,近日 Poe 发布了一系列的更新,包括 Mac 应用、与同一个 AI 机
韩国科技公司 Bear Robotics 周二表示,LG 电子已向美国人工智能自主服务机器人公司 Bear Robotics 投资 6000 万美元。LG表示,它
虽然 AMD 此前已经收购了多家硬件公司,但收购的软件公司却少之又少。昨天,AMD 宣布收购人工智能软件公司 Mipsology。 Mipsolo
谷歌旗下 DeepMind 表示,该公司已经开发出一种名为 RoboCat 的人工智能模型,可以控制不同的机器人手臂执行一系列任...
在今日的 2023 MWC 上海大会上,中国联通举办了未来网络暨科技创新成果发布会,发布鸿湖图文大模型、通信网络全域数字...
Nvidia 席执行官黄仁勋表示,该公司的下一代人工智能 (AI) 芯片平台名为 Rubin,将于 2026 年推出。 黄仁勋在参加 Computex
为了应对日益增长的 AI 生成图像的问题,谷歌 DeepMind 团队今日推出了一款名为 SynthID 的工具,可以在 AI 生成的图像中嵌入