2021年12月7日，我国上海——燧原科技重磅发布第二代云端人工智能推理加快卡“云燧i20”——这是时隔仅五个月，继本年7月发布云端人工智能练习加快卡“云燧T20”之后，燧原科技又推出的全新一代针对云端推理场景的AI加快产品。
作为全新一代云端AI推理加快产品，云燧i20具有迄今为止业界最大的AI加快卡存储带宽，高达819 GB/s，远超职业同类产品水平；一同全面支撑从FP32、TF32、FP16、BF16到INT8的核算精度。单精度FP32峰值算力到达32 TFLOPS，单精度张量TF32峰值算力到达128 TFLOPS，整型INT8峰值算力到达256 TOPS。比照第一代推理产品，云燧i20将浮点算力提高到1.8倍，整型算力提高到3.6倍。
晋级后的“驭算TopsRider”软件栈，在功能、开发功率和模型掩盖面上得到大幅提高。经过引进通用高层图优化和大规模算子交融技能，充沛释放了大容量片内存储和高带宽存储的利用率，将模型均匀功能提高3.5倍，硬件算力利用率均匀提高2倍；经过晋级的编程模型以及算子主动分片、主动生成技能，自定义算子开发功率翻倍，模型搬迁本钱大大下降；此外，驭算增强了对动态性的支撑，使云燧i20在检测、语音辨认、语义了解等场景更具竞争力。
在经济效益和布置灵敏性层面，根据虚拟化和多实例加快技能，云燧i20能够完成单卡多用户，一同支撑6个事务互不搅扰、安全阻隔运转。让更多云端推理使用一同享用专有的算力加快，为客户事务架构带来轻耦合、灵敏牢靠的完成方法，明显提高资源利用率与投入产出比。
“云燧i20的发布标志着燧原科技在云端AI算力加快范畴，从练习到推理的完好产品线已全面迭代到第二代，能够以更有竞争力的产品，为互联网、才智城市、才智政务，以及金融、交通、动力等传统职业客户供给更优的AI核算计划。”燧原科技CEO赵立东表明，“当时，我国芯片工业正处于剧烈的生长与蜕变年代，燧原科技以‘做大芯片，拼硬科技’为年代任务，根据原始立异的软硬件架构，正在不断加快技能立异与产品迭代。功能赶超业界旗舰GPU的云燧i20正是咱们的要害效果之一。”
超大带宽推理加快卡，兼具高吞吐、低延时特性
现在以语音辨认、图片辨认、视频内容分析为主的感知类使用，内容引荐和诈骗买卖阻拦等决议计划类使用在云端大部分都是以实时在线的方法供给服务；一同神经网络的参数越来越多，数据带宽需求也越来越高，统筹高带宽和低推迟变得至关重要。云燧i20立异性地选用了高带宽HBM2E存储，完成了高达819GB/s的超大带宽，为各类云端推理事务供给高吞吐、低延时的功能，保证其精确、平稳、高效的运转。
自主立异芯片架构，以更高性价比供给极致化功能
新一代“邃思”AI推理芯片选用第二代高功能核算中心和数据引擎，由12nm工艺打造，经过架构晋级，大大提高了单位面积的晶体管功率，然后完成了与现在业界7nm GPU相匹敌的核算才能。不仅如此，根据12nm老练工艺带来的本钱优势，使得云燧i20在相同功能表现下更具性价比优势。而且供应链体系愈加安稳老练，客户的事务需求能够得到及时满意。
燧原科技COO张亚林指出：“云燧i20全面提高了算力，在统筹全精度算力的一同大幅度提高了整型运算，大力加强了模型掩盖率和泛化支撑的才能，在多项基准测验中，其模型功能、能效比均处于国内抢先水平，能够满意云端推理事务高度多样化的需求。燧原科技现在现已具有第二代的练习和推理产品，针对客户的事务场景供给原始立异的、具有高功能及性价比的‘练习+推理’完好解决计划，并支撑国产服务器和操作体系，能够协助客户进行云端体系布置，全面且继续为客户发明价值。”
产学研协同，引领原始立异国产AI算力落地
自第一代云端AI推理加快卡“云燧i10”发布后，燧原科技在构建原始立异的通用算力和自主生态上付出了异常的尽力。以其国产AI算力产品为中心，以商业生态和科研生态为支撑，完成燧原科技的云端AI推理产品在互联网、金融、政务等多家客户的商业落地，并取得认可。
之江实验室展开协作部副部长吴丽娟表明：“之江实验室本年3月与燧原科技建立联合研究中心，环绕人工智能使用场景，一起开发具有标杆性的技能解决计划，构建开源敞开的立异生态体系。现在，燧原科技的第一代人工智能练习产品‘云燧T11’正在之江实验室建立千卡高功能核算的液冷集群，打造契合国家碳中和方针导向的低碳绿色数据中心。未来，咱们还会在智能核算的更多范畴协作研制。”
上海银行自贸区陈行长表明：“燧原科技的第一代人工智能推理产品云燧i10具有科技独创性和技能抢先优势。上海银行和燧原科技现已签署了深度战略协作协议，在才智金融范畴展开了战略协作，经过场景化、智能化、交融化的立异产品，将金融科技融入银行服务的全流程，用快捷流通的客户体会、优质高效的服务质量，完成传统银行服务方法的打破式革新。燧原科技将助力上海银行向完成数字化、智能化转型迈出坚实的一步。”
浪潮信息副总裁刘军表明：“燧原科技是国产人工智能核算芯片的领军企业，浪潮信息与燧原科技经过元脑生态联合立异，在AI整机体系、AI算力优化、场景计划落地等多方面深化协作。此次云燧i20的发布，标志着燧原从练习到推理全面进入2.0年代，这也是国产AI算力展开的里程碑。咱们等待和燧原一同严密协作，一起推动我国人工智能工业的快速展开。”