高通,看见了AI芯片 "多面"
个月,性能领跑市场
之前年,搭载 代AIEngine（人工智能引擎） 高通骁龙 零发布,第 年,高通发布了神经处理引擎SDK。
去年 月,高通宣布推出CloudAI 零零芯片,称它是“为满足急剧攀升 云端AI推理处理 需求而设计”、“让分布式智能可以从云端遍布至用户 边缘终端,以及云端和边缘终端之间 全部节点。”
月 日,高通推出全世界首款支持 G和AI 机器人平台RB 。
月中旬,高通 云端推理芯片CloudAI 零零已经出货,同时,高通开始探索CloudAI 零零边缘方案开发套件,并已实际交付。
月初,骁龙 cx第 代 G计算平台发布,支持AIEngine。
AI推理芯片不仅看算力,还要讲究时延、功耗和成本。
AI芯片市场,正面临着层出不穷 需求。
AI芯片,分为训练和推理,前者用来“做模型”（跑大量资料统计、调整参数）,后者则用来“出结果”（实时检测、目标跟踪）。
“做模型”就像是产品加工,在“工厂”里完成,但模型出来后,桥检车租赁快讯网编辑报道,就不局限在“工厂”中了,还能部署到手机、汽车等设备上使用。
“高通在AI研发方面拥有悠久 历史。”
『本文转载自网络,版权归原作者所有,如有侵权请联系删除』
不仅支持远程访问、可升级空中下载软件、可部署到户外,而且在PyTorch、ONNX、TensoRFlow上都能运行。
也就是说,通道 总系统带宽为 GB/s,但 MB 片上SRAM高速缓存设计,在片上保存了尽可能多 存储器流量。
事实上,从市场消息来看,云端 确不是高通 终点。
事实上,无论是算力、还是硬件要求,边缘推理芯片 设计都要比云端更复杂。
今年,高通也同样在AI赛道上飞速奔驰。
从DM. e 芯片设计来看,高通 目标似乎并不仅局限于云端。
从功耗来看,英特尔 Goya可低达 零零W,但吞吐量只能达到 零零零左右。
从图中来看,横轴是功耗（越小越好,图中右边更小）；纵轴是吞吐量（越高越好）。
但手机和汽车等设备,受体积、储能、实时等诸多限制和要求,算力已不再是单 考虑条件。
但高通却做出了尝试。
先来看看它 内部结构，
其中,DM. 从外形来看,有点像两个相邻 M. 连接器,其中,M. 以尺寸小、传输性能高广受欢迎。
其中,支持 个相机同时拍摄分辨率达 零× 零 零 视频流、每秒 帧 高清视频。
即使是英伟达新新Ampere架构 A 零零芯片,吞吐量也不到 零零零,耗能却超过了 零零W。
可以看出,AI训练芯片只靠绝对算力——只要算力越高,模型训练得就越快。
同样在近期,Facebook发布 OculusQuest 首次搭载了骁龙XR 平台,与前代平台相比,骁龙XR 平台 AI处理能力提升高达 倍,能够支持更多感知算法。
回看高通AI探索节点后 发现
全世界资料统计企业IDC 半导体研究总监MichaelJ.Palma曾表示，“人工智能 成功,在于部署到边缘 系统,在边缘系统中,神经网络做出 即时决策实际上可以创造价值,不受延迟和连接问题 约束——而这些问题对云解决方案来说是个挑战。”
在前年到 零 年 预测期内,年复合攀升率(CAGR)为 . %。
在CloudAI 零零芯片开始应用 同时,高通也同时发布了对应 边缘人工智能开发工具包——CloudAI 零零EdgeAISDK。
在全世界人工智能产业 生态系统逐步成型 当下,AI已然成为各行各业加速发展 助推器。
在骁龙 和 发布后,去年,高通正式发布第 代AIEngine骁龙 移动平台。
处在野蛮生长阶段 AI芯片企业,做好云端推理芯片已非易事,入局边缘芯片还会更难。
如果只将目光放在眼下单 领域 益处发展、而非多角度进行探索,将难以在竞赛愈渐激烈 市场中谋得生存。高通 全方位投入所取得 成果,让AI市场看见了新 范例。
实际上,早在 零零 年,高通旗下 Qual很好啊mResearch就启动了首个体工智能项目,并于前年成立Qual很好啊mAIResearch。
对于AI芯片而言,就像产品 新终目 是落地 样,从“云端”到“边缘”也是 种必然 统计。
将云端芯片“边缘”化
市调机构Tractica称,预计从 零 到 零 年 年时间里,AI推理芯片将有 零倍 攀升,至 零 年可达 零亿美元。
据企业调研机构MarketsandMarkets预测,全世界边缘人工智能软件企业规模,将从前年 . 亿美元,攀升到 零 年 . 亿美元。
据高通近日公布 消息,CloudAI 零零正面向其全世界部分客户出货,预计采用该产品 商用设备将于明年上半年面市。
此后推出了骁龙 零 G移动平台、骁龙 零G G移动平台等,同样支持第 代AIEngine。
此外, nm 工艺节点,也有助于降低功耗。
此外,这 SDK还支持Keras、Caffe、PaddlePaddle等主流框架。
目前,桥检车租赁快讯网发回 报道,高通 所有系统级芯片都支持A 或集成AIEngine。
相对于AI训练芯片,AI推理芯片需求量更高,使用场景也更广泛。
相比之下,高通 CloudAI 零零PCle,吞吐量超过 零零零,却只需要 W。
而 个月过后,CloudAI 零零芯片在ResNet- 零上 测试效果流出,引爆了市场内 深水炸弹。
而DM. e是dualM. edge 缩写,桥检车租赁快讯网早上报道,意为“两个边缘 M. 连接器”,是 种更小、功耗更低 热封壳外形。
而且,这个 W 芯片,支持新高每秒 零零万亿次（ 零零TOPS） 算力。
而在封装上,高通采取了 种不同 形式，
至于应用方向,包括新闻推送、广告、个性化视频、搜索、XR和游戏等,可以说是边缘 应用场景,它都能满足。
这 工具包,部分由以下 大模型构成，
这 工具包,除了上述芯片所包含 G特性、能耗低等特点以外,目前透露 功能还有不少。
这是它在AI芯片市场、边缘人工智能迈出 新 步。
这样 芯片性能,听起来让人难以置信。
这次 CloudAI 零零,也将目光放在了更长远、更现实 位置——边缘人工智能（EdgeAI）。
这里 “工厂”,通常是云端,那里有大量服务器部署；而手机、汽车等设备,被称为边缘（终端）,也是AI模型真正需要用到 地方。
那时候,企业上也有部分人士持并不看好 态度。 些观点认为,去年再入局云端AI芯片、并赶超新先进 云端AI推理芯片,似乎为时已晚。
高通也不例外,从手机、P XR到机器人等等,它在飞速推动各领域 AI升级。
高通人工智能及边缘计算资深总监JohnKehrli表示，“高通正处于第 代移动端解决方案中,拥有超过 年 研发经验,因此,高通正在利用市场专业知识（进行研发）。虽然这是AI内核,它与移动技术并不相同,但我们可以利用那个领域 经验。”
高通到底在云端AI推理芯片上“施了如何魔法”。
高通第 代AIEngine支持许多移动端 新老应用,包括AI实时语音翻译、人像留色、背景虚化、AI 键多拍、夜景拍摄与人像智能识别……
,