鯤云科技近日攜手百度飛槳(PaddlePaddle)，完成了搭載CAISA芯片的鯤云星空X3加速卡對PaddlePaddle框架模型轉(zhuǎn)化的全面支持。這意味著鯤云自主研發(fā)的全球首款數(shù)據(jù)流AI芯片CAISA，可快速適配百度飛槳PaddleX模型格式，支持主流算法網(wǎng)絡，穩(wěn)定運行，能夠達到兼容性及性能、可靠性要求，便于開發(fā)者快速實現(xiàn)多樣化AI應用部署，這次合作進一步擴大了雙方在AI產(chǎn)業(yè)的創(chuàng)新生態(tài)。

Paddle模型到星空X3加速卡轉(zhuǎn)換部署流程

鯤云科技自成立以來，一直深耕數(shù)據(jù)流AI芯片的自主研發(fā)，已實現(xiàn)量產(chǎn)的CAISA芯片，在芯片利用率上提升了最高11.6倍，其高算力性價比、高架構(gòu)通用性及高軟件易用性的優(yōu)勢，在與百度飛槳的適配過程中得到了更好的呈現(xiàn)。搭載CAISA芯片的星空X3加速卡峰值性能為10.9TOPs，實測結(jié)果顯示運行ResNet50的延時低至3.38ms，吞吐率達到1181.68fps，在精度保證的情況下，性能表現(xiàn)優(yōu)于同類產(chǎn)品。

星空X3加速卡百度飛槳深度學習平臺提供了快速有效搭建訓練深度學習模型的方案，并透過Paddle2ONNX模塊與鯤云的星空X3加速卡完成了簡單快速的適配。在飛槳全流程開發(fā)圖形化工具PaddleX和鯤云自行研發(fā)的RainBuilder編譯器支持下，星空X3加速卡在離線狀態(tài)將ONNX等模型格式轉(zhuǎn)換成IR格式后在RainBuilder Runtime上部署，支持ResNet, YOLO, DeepLab 等各種CNN類主流算法推斷模型，開發(fā)者只需兩步，便可輕易實現(xiàn)模型到硬件的部署和運行。

RainBuilder端到端自動編譯工具鏈

飛槳是中國首個開源開放、技術(shù)領(lǐng)先、功能完備的產(chǎn)業(yè)級深度學習平臺，鯤云是國內(nèi)數(shù)據(jù)流AI芯片研發(fā)的先行者，致力于加速人工智能在產(chǎn)業(yè)的落地和應用。本次合作為人工智能開發(fā)者提供了更高效的多樣化AI部署選擇，進一步降低了 AI 應用的開發(fā)難度，提高開發(fā)效率，未來，百度飛槳與鯤云科技將在底層架構(gòu)和硬件上進一步推進合作，為自主人工智能產(chǎn)業(yè)的發(fā)展提供新的探索方向。

關(guān)于百度飛槳PaddlePaddle

飛槳(PaddlePaddle)以百度多年的深度學習技術(shù)研究和業(yè)務應用為基礎(chǔ)，集深度學習核心訓練和推理框架、基礎(chǔ)模型庫、端到端開發(fā)套件和豐富的工具組件于一體，是中國首個自主研發(fā)、功能完備、開源開放的產(chǎn)業(yè)級深度學習平臺。飛槳企業(yè)版針對企業(yè)級需求增強了相應特性，包含零門檻AI開發(fā)平臺EasyDL和全功能AI開發(fā)平臺BML。EasyDL主要面向中小企業(yè)，提供零門檻、預置豐富網(wǎng)絡和模型、便捷高效的開發(fā)平臺;BML是為大型企業(yè)提供的功能全面、可靈活定制和被深度集成的開發(fā)平臺。目前，飛槳累計開發(fā)者320萬，服務企業(yè)12萬家，基于飛槳開源深度學習平臺產(chǎn)生了36萬個模型。飛槳助力開發(fā)者快速實現(xiàn)AI想法，快速上線AI業(yè)務。幫助越來越多的行業(yè)完成AI賦能，實現(xiàn)產(chǎn)業(yè)智能化升級。

關(guān)于鯤云RainBuilder編譯工具鏈

專為CAISA架構(gòu)設(shè)計的RainBuilder編譯工具鏈提供從算法模型到板級產(chǎn)品部署的一整套開發(fā)套件，包括RainBuilder Compiler、RainBuilder Runtime和RainBuilder Driver三層。RainBuilder Compiler支持算法模型的智能解析、自動化量化壓縮、節(jié)點融合、內(nèi)存優(yōu)化，能夠?qū)⒛Ｐ娃D(zhuǎn)化為適用于CAISA架構(gòu)的中間表達和數(shù)據(jù)。RainBuilder Runtime提供性能模型分析、精度驗證、自動線程調(diào)度、軟硬件并行、異常處理等功能，為用戶提供豐富易用的開發(fā)接口以完成對底層AI硬件的高效應用。RainBuilder Driver支持CAISA硬件架構(gòu)驅(qū)動、硬件模塊計算調(diào)度以及硬件模型分析，可以自動進行細粒度性能優(yōu)化及調(diào)度。RainBuilder使用過程簡單便捷，支持用戶自定義算子，用戶無需對底層硬件有深入的了解，只需兩步，即可通過基于C++/Python的標準開發(fā)流程實現(xiàn)算法快速部署。