1/0
云端推理迎来爆发,快手投资的瀚博半导体发布云端推理AI芯片
第一财经2021-07-11 20:14:14

近年来,云端AI芯片厂商不断涌现,2021年首批初创企业逐步商业化。今年世界人工智能大会期间,燧原科技、天数智芯、瀚博半导体等多家云端AI芯片厂商纷纷携带最新产品,在这一场人工智能盛会上亮相。

随着技术演进,算法模型精度、性能等关键指标在众多领域不断取得进展,人工智能已进入算法规模化应用落地阶段。

“随着我们的模型训练逐渐成熟,AI应用逐渐落地,推理的市场已经逐渐超过了训练的市场。”瀚博半导体创始人兼CEO钱军在接受第一财经等采访时表示,正是看到了这一市场,瀚博半导体设计了推理专用的云端芯片。

《2020-2021中国人工智能计算力发展评估报告》预测,2021年中国市场AI服务器的推理负载有望超过训练负载。随着AI进入应用期,数据中心推理算力需求的复合增长率是训练侧的2倍以上。

研究机构赛迪顾问报告显示,从2019年到2021年三年中国AI芯片市场规模仍将保持50%以上的增长速度,到2021年,市场规模将达到305.7亿元。其中,随着大规模地方性数据中心的建设陆续完成,云端训练芯片增长速度放缓;而随着各领域市场需求的释放,云端推断芯片、终端推断芯片市场增长速度将持续呈上升趋势。

钱军表示,对推理算力的需求在快速增长,下游客户多样化的算力应用场景催生了多样化的AI计算加速芯片需求,但是目前市面上却鲜有主流GPU厂商外其他更优解决方案。“GPU在推理侧不是最好的架构方案,性能远不如DSA(专用领域处理器架构)。”

此外,他认为,与云端训练侧相比,推理侧的生态更容易被突破。通过强大的配套基础设施平台CUDA,英伟达在AI训练侧基本处于垄断地位。

在此次大会期间,瀚博半导体发布了首款云端通用AI推理芯片SV100系列及VA1通用推理加速卡,预计将于今年四季度量产上市。

瀚博半导体成立于2018年,A轮融资由快手、红点创投中国基金、五源资本联合领投;今年4月完成了5亿元人民币A+轮融资,由经纬中国和中国互联网投资基金联合领投。该公司专主要研发高性能通用加速芯片,针对多种深度学习推理负载而优化,应用场景为计算机视觉、智能视频处理、自然语言处理等。

对于商业落地问题,钱军表示,和投资方快手合作非常紧密,“占据过半中国AI应用市场的计算机视觉应用需要高密度的视频解码算力配合AI算力实现端到端的计算加速。要解决好视频,AI要为视频做好优化,我们要匹配我们的芯片。”

除了快手,钱军称,正在与国内外多家头部互联网公司合作,“很多公司和我们的合作已经有一段时间了,等着测试我们的产品。”

第一财经广告合作,

作者:来莎莎
知识产权、免责声明以及媒体合作联系
继续了解
知识产权声明

【知识产权声明】

除本司(指上海东方网股份有限公司)另行声明外,本司网页及客户端产品(以下简称“本网”),包括但不限于东方新闻、翱翔、东方头条等,所涉及的任何资料(包括但不限于文字、图标、图片、照片、音频、视频、图表、色彩组合、版面设计、商标、商号、域名等)的知识产权均属本司和资料提供者所有。未经本司书面许可,任何人不得复制、转载、摘编、修改、链接、镜像或以其他任何方式非法使用东方网的上述内容。对于有上述行为者,本司将保留追究其法律责任的权利。

东方网、东方新闻、翱翔,以上均为本司享有权利之合法商标,未经本司书面授权,任何单位或个人不得使用上述商标,或将上述商标用作网站、媒体名称等。

【免责声明】

1、凡本网注明来源“东方网”或“东方新闻”或带有东方网LOGO、水印的所有内容,包括但不限于文字、图片、音频视频,版权均属本司所有,任何媒体、网站或其他任何形式的法律实体和个人未经本司书面授权均不得转载、链接或以其他方式复制传播。与我司签订有关协议或已经获得本司书面授权许可的媒体、网站或其他任何形式的法律实体和个人,应在授权范围内使用,且必须注明来源“东方网”。其目的在于传递更多信息,并不意味着本司赞同其观点或认可其内容的真实性。如果其他媒体、网站或其他任何形式的法律实体和个人使用,必须保留本司注明的“稿件来源”,并自负全部法律责任。如擅自篡改为“稿件来源:东方网”,本司将依法追究责任。

2、擅自使用东方网名义转载不规范来源的信息、版权不明的资讯,或盗用东方网名义发布信息,设立媒体账号等,本司将依法追究其法律责任。

3、鉴于本网发布主体、发布稿件来源广泛,数量较多,如因作者联系方式不详或其他原因未能及时与著作权拥有者取得联系,或著作权人发现本网转载了其拥有著作权的作品时,请主动来函、来电与本司联系,或与本司授权的中国文字著作权协会联系,提供相关证明材料,我方将及时处理。
中国文字著作权协会联系方式:
联系人:赵洪波 唐亚静
地 址:北京西城区珠市口西大街120号太丰惠中大厦1027-1036室
联系电话:010-65978917
邮 箱:wenzhuxie@126.com

4、本网所有声明以及其修改权、更新权及最终解释权均属本司所有。

【媒体合作】

本司为尊重保护著作权,鼓励有益于社会主义精神文明、物质文明建设的作品的创作和传播,促进互联网良性发展,本着平等互惠、资源共享的原则,诚邀各类媒体、网站、单位、个人与本网建立友好的合作关系。
媒体合作、内容转载请联系
联系人:杨老师
联系电话:021-22899781