云端推理迎来爆发 快手投资的瀚博半导体发布云端推理AI芯片

来源:ob欧宝官网

阅读 45
发布时间 2021-10-21 11:07:26

  近年来,云端AI芯片厂商不断涌现,2021年首批初创企业逐步商业化。今年世界人工智能大会期间,燧原科技、天数智芯、瀚博半导体等多家云端AI芯片厂商纷纷携带最新产品,在这一场人工智能盛会上亮相。

  随着技术演进,算法模型精度、性能等关键指标在众多领域不断取得进展,人工智能已进入算法规模化应用落地阶段。

  “随着我们的模型训练逐渐成熟,AI应用逐渐落地,推理的市场已经逐渐超过了训练的市场。”瀚博半导体创始人兼CEO钱军在接受第一财经等采访时表示,正是看到了这一市场,瀚博半导体设计了推理专用的云端芯片。

  《2020-2021中国人工智能计算力发展评估报告》预测,2021年中国市场AI服务器的推理负载有望超过训练负载。随着AI进入应用期,数据中心推理算力需求的复合增长率是训练侧的2倍以上。

  研究机构赛迪顾问报告显示,从2019年到2021年三年中国AI芯片市场规模仍将保持50%以上的增长速度,到2021年,市场规模将达到305.7亿元。其中,随着大规模地方性数据中心的建设陆续完成,云端训练芯片增长速度放缓;而随着各领域市场需求的释放,云端推断芯片、终端推断芯片市场增长速度将持续呈上升趋势。

  钱军表示,对推理算力的需求在快速增长,下游客户多样化的算力应用场景催生了多样化的AI计算加速芯片需求,但是目前市面上却鲜有主流GPU厂商外其他更优解决方案。“GPU在推理侧不是最好的架构方案,性能远不如DSA(专用领域处理器架构)。”

  此外,他认为,与云端训练侧相比,推理侧的生态更容易被突破。通过强大的配套基础设施平台CUDA,英伟达在AI训练侧基本处于垄断地位。

  在此次大会期间,瀚博半导体发布了首款云端通用AI推理芯片SV100系列及VA1通用推理加速卡,预计将于今年四季度量产上市。

  瀚博半导体成立于2018年,A轮融资由快手、红点创投中国基金、五源资本联合领投;今年4月完成了5亿元人民币A+轮融资,由经纬中国和中国互联网投资基金联合领投。该公司专主要研发高性能通用加速芯片,针对多种深度学习推理负载而优化,应用场景为计算机视觉、智能视频处理、自然语言处理等。

  对于商业落地问题,钱军表示,和投资方快手合作非常紧密,“占据过半中国AI应用市场的计算机视觉应用需要高密度的视频解码算力配合AI算力实现端到端的计算加速。要解决好视频,AI要为视频做好优化,我们要匹配我们的芯片。”

  除了快手,钱军称,正在与国内外多家头部互联网公司合作,“很多公司和我们的合作已经有一段时间了,等着测试我们的产品。”

上一篇:《云端饕客行》别样的夏威夷之旅美味的阿罗哈风情:夏威 下一篇:共建云端软件新生态 华为亮相第十五届中国软交会