返回话题列表
乐晴行业观察
2024/12/15 21:18
类型 talk 8阅读 1

算力芯片ASIC:生成式AI核...

发布者:乐晴

当前全球生成式AI大模型对算力需求持续提升,拉动AI芯片高速增长。

AI芯片,也被称为人工智能加速器或计算卡,是专门为人工智能应用设计的芯片。

-以GPU为代表的通用芯片;

-以ASIC定制化为代表的专用芯片;

-以FPGA为代表的半定制化芯片。

当前生成式AI市场基础层逐步稳定,竞争的焦点逐渐转向推理层的开发。

随着生成式AI推理需求的加强,会增加对专用芯片的需求,定制化芯片或大有可为。 -------

ASIC芯片是专用于特定应用的集成电路,其计算能力和计算效率可根据算法需求进行定制,专为特定任务和场景设计。

具有面积小、能耗低、集成度高、价格优势显著等特点,但同时也存在设计开发周期长、对算法依赖性高等缺点。

虽然目前单颗ASIC算力相比最先进的GPU仍有差距,但由于其成本较低,在推理常用精度下,展现出了更高的性价比,功耗也更低。

OpenAI在上周发布了GPT-o1模型。GPT-o1由于使用思维链,单次推理时间相应增长,适用于对实时性相应要求较低的场景。

上周,谷歌OpenAI发布迄今最强大的AI大模型Gemini 2.0,背后的核心硬件为谷歌最强AI芯片Trillium TPU—同样也属于ASIC的一种。 -----------

全球大量超大规模的公司已经开始各自开发定制的人工智能加速器。

海外ASIC供应商以博通、Marvell为代表。博通2024财年公司的人工智能收入增长220%,达到122亿美元。博通目前正在与三个非常大型的客户开发AI芯片,预计明年公司AI芯片的市场规模为150亿-200亿美元。

北美云厂商亚马逊、Meta 等持续扩大自研 ASIC。亚马逊最新发布的AI芯片中,基于ASIC的实例性价比超越基于GPU的实例;谷歌最强AI芯片同样是ASIC。

我国的AISC行业发展迅速,主要企业有寒武纪、澜起科技、黑芝麻、地平线、华为海思、阿里巴巴、百度等。

典型的 ASIC芯片例如:阿里平头哥推出含光 800 AI 芯片;百度昆仑系列 AI 芯片;腾讯在 AI 推理、视频转码、智能网卡均自研专用芯片等。

部分国产AISC技术已经达到国际领先,如在BF16浮点算力方面,华为海思的昇腾910已超过谷歌的产品TPUv4。

寒武纪已推出的ASIC芯片产品包括思元590等智能芯片,以及基于思元系列芯片的云端智能加速卡、边缘智能加速卡等。其中,思元590智能芯片的性能直接对标英伟达的核心产品A100,几乎支持当下所有的主流模型。

澜起科技的津逮服务器平台产品线中的津逮CPU,是将Intel CPU和ASIC模块封装在一起的产品。

此外,全志科技ASIC芯片产品在智能音箱、智能安防等领域有较强的市场竞争力;国科微在广播电视、安防监控等领域的ASIC芯片技术较为成熟;淳中科技自研ASIC芯片正在进行相关测试工作;山石网科ASIC芯片已进入量产前的测试阶段;天融信2003年开始投入ASIC网络加速芯片研制中;芯原股份提供一站式芯片定制服务包括ASIC。

附:3篇ASIC相关报告,供学习参考。(星球网页端下载阅读效果更好)

*本文内容仅作为行业分析参考,不构成投资建议!