AI芯片、光模块和光芯片的发展趋势
发表时间: 2024-01-13 04:12:05 发布于:行业新闻
高算力需求迫切,推动AI基础设施建设。高训练算力需要与相应基础设施匹配,根据《2022—2023中国算力发展评估报告》预计,2023 年全球 AI 支出增速有望达 27.9%,而中国
人工智能芯片是 AI 算力的核心构成。目前主流的 AI 芯片中GPU占据绝对百分比,根据IDC数据,2022 年 GPU 在中国人工智能芯片市场中占有率为 89%。根据我们测算,假设国内每日访问单个语言大模型的人数达到 3 亿的情况下,对 GPU 需求台数为 13889 块。
国产AI芯片短板明显,下一代产品推进顺利。通过对国内寒武纪、华为昇腾和沐曦等国产公司旗下的 AI 旗舰芯片与 Nvidia H100 SXM 的性能指标对比,可以看到国产 AI 芯片与 Nvidia H100 在性能上仍存在较大差距。同时国产芯片公司仍在加快研发推进下一代 AI芯片产品,并有望在未来对标Nvidia H100,如寒武纪在研的思元590、沐曦在研的MXC500等。
美国对 AI 芯片出口管制,自主可控要求下国产芯片需求迫切。2022 年 10 月 7 日美国商务部工业安全局(BIS)发布《美国商务部对中华人民共和国(PRC)关于先进计算和半导体实施新的出口管制制造》细则,其中管制物项 3A090、4A090 包含高性能 AI 芯片产品,而Nvidia A100 和 H100 均符合管制要求。在此背景下,Nvidia 推出性能的中国版芯片 A800 和 H800。我们认为在国内自主可控大背景下,国内 AI 产业对国产芯片需求迫切,或加大对国产芯片公司支持力度,国产 AI 芯片有望迎来技术进步和市场机遇。
高算力需要与高效传输架构相匹配。AI 大模型通常由多个服务器作为节点,并通过高速网络架构组成集群合作完成模型训练。因此在模型中东西向流量(数据中心服务器间的传输流量)大幅增加,而模型训练过程中南北向流量(客户端与服务器间的传输流量)较少,由于叶脊网络架构相较传统三层架构更适用于东西向流量传输,成为现代数据中心主流网络架构。
叶脊网络架构大幅增加对光模块数量需求。由于叶脊网络架构中东西向流量大,因此服务器与交换机相连均需使用光模块,从而大幅增加对光模块数量需求。同时 AI 大模型的高流量对带宽提出更高要求,800G 光模块相较 200G/400G 光模块具有高带宽、功耗低等优点,有望在 AI 大模型网络架构中渗透率提升。
以 Nvidia DGX H100 架构为例测算 GPU 与光模块的对应数量。在 4-SU 的 Nvidia DGX H100 架构中,每 32 台服务器节点组成一个 SU 单元,并与 8 台叶交换机相连,因此服务器节点与叶交换机之间共有 1024 个连接(32×8×4);32 台叶交换机需分别与 16 台脊交换机相连,因此叶交换机与脊交换机之间共有 512 个连接(32×16);
在 Nvidia DGX H100 的目前方案中,脊-叶连接采用 800G 光模块,需要 1024 个 800G 光模块;叶-服务器连接中,每个服务器节点通过一个 800G 光模块与两台叶交换机向上连接,需要 512 个 800G 光模块(128×4),同时每台叶交换机通过一个 400G 光模块与一个服务器节点连接,需要 1024 个 400G 光模块(128×8)。
国产光模块厂商在 2022 年全球光模块企业 TOP10 排名中占据 7 席。TOP10 中国内企业为中际旭创(Innolight)、华为(Huawei)、光迅科技Accelink)、海信(Hisense)、新易盛(Eoptolink)、华工正源(HGG)、索尔思光电(已被华西股份收购)。而在高端光模块领域,中际旭创已在 2022 年实现 800G 光模块批量出货。光芯片:光模块核心部件,国产化空间开阔
光通信是指通过电光转换以光信号为介质的传输系统。光通信系统的传输过程中首先发射端(TOSA)通过激光器芯片将电信号转换为光信号,经过光纤传输至接收端(ROSA),接收端通过探测器芯片将光信号转换为电信号,最终实现信号传输。
光芯片是决定光通信系统信号传输效率和网络可靠性的关键。光芯片是实现光电信号转换的基础元件,按照功能可以分为激光器芯片(LD)和探测器芯片(PD)。按细分型号分:激光器芯片可分为 VCSEL、FP、DFB 和 EML;探测器芯片可分为PIN 和 APD。
高端光芯片市场国产化率仍有待提高。目前在 10G 及以下光芯片市场中,源杰科技等国内公司已占据较高市场份额(部分高技术难度领域如 10G VCSEL/EML 激光器芯片市场国产化率低于 40%),但在 25G及以上光芯片市场,市场份额仍大多由Ⅱ-Ⅳ、Lumentum 和Broadcom 等国外公司占据。伴随国内光模块企业在全球市场中占据主导地位,出于保供的安全考虑,或为国内光芯片企业在高端领域发展迎来新机遇。
文章出处:【微信号:AI_Architect,微信公众号:智能计算芯世界】欢迎添加关注!文章转载请注明出处。
TPMS发射器由五个部分组成(1)具有压力、温度、加速度、电压检测和后信号处理ASIC
组合的智能传感器SoC;(2)4-8位单片机(MCU);(3)RF射频发射
;【来源】:《广播电视信息》2010年03期【摘要】:本文分析了三网融合背景下广电行业的业务
,在铜缆双绞线还在布线市场中占据着绝对优势的时候,铜退是相对较为困难的,因此,
伏并网逆变器来讲,提高电源的转换效率是一个永恒的课题,但是当系统的效率越来越高,进一步的效率改善会伴随着性价比的低下,因此,如何保持一个很高的效率,又能维持很好
之一:高度集成性带来低成本显示驱动器IC与触控功能加以集成、整合的解决方案将是未来的
方向。由于智能手机向中低端市场延伸,从市场形态看,触控产业也展现出低成本化的特征
将是进一步向着CMOS化、低功耗、体积小、容量大、性能高、价格低和外围电路内装化等几个方向
封装因此找到了新的需求。根据Yole的报告,日月光(ASE)、奥特斯(AT&S)、通用电气(GE)、神钢电机(Shinko
的主要因素 /
FPGA读写SDRAM的实例和SDRAM的相关文章及一些SDRAM控制器设计论文
RT-Thread Studio - 5.调试教程 #RT-Thread
- 上一个: 三层架构支撑数据要素流通体系
- 下一个: 中船黄埔文冲请求含油铁屑搜集设备专利能下降人工本钱