英特尔 Gaudi 2D AI 减速器为 DeepSeek Janus Pro 模子进

作者: [db:作者]   点击次数:    发布时间: 2025-02-02 08:32

IT之家 2 月 1 日新闻，克日，DeepSeek 宣布 Janus Pro 模子，英特尔 Gaudi 2D AI 减速器现已针对该模子停止优化，为 AI 利用的落地跟范围化开展供给的支撑。IT之家得悉，DeepSeek Janus 模子集成了多模态懂得跟天生功效。该模子初次采取同一的 Transformer 架构，冲破了传统 AIGC 模子依附多门路视觉编码的限度，实现了懂得与天生义务的一体化支撑。在此基本上，Janus Pro 经由过程优化练习战略跟扩大模子范围，明显晋升了文生图等功效的机能与稳固性，并供给了 10 亿参数跟 70 亿参数两个版本。英特尔 Gaudi 2D 凭仗 2.45TB / 秒的高带宽跟 96GB HBM 年夜容量内存，为 Janus Pro 模子供给了强盛的盘算支撑，使其在生图批处置义务中，跟着批量巨细的增添，吞吐机能失掉明显晋升，年夜幅收缩义务处置时光。与此同时，联合英特尔 Optimum-Habana 框架的优化，英特尔 Gaudi 2D 明显晋升了文生图义务的吞吐机能跟推理效力，仅需约 10 秒即可天生 16 张高品质的图片。并且，开辟者仅需调剂数行代码，即可实现这一成果，极年夜下降了开辟门槛跟迁徙本钱。别的，DeepSeek 的蒸馏模子在至强跟 Gaudi 平台上也失掉了支撑。