8月5日，在昇騰計算產(chǎn)業(yè)發(fā)展峰會上，華為輪值董事長徐直軍宣布，華為昇騰硬件使能CANN全面開源開放，Mind系列應(yīng)用使能套件及工具鏈全面開源，支持用戶自主的深度挖潛和自定義開發(fā)，加速廣大開發(fā)者的創(chuàng)新步伐，讓昇騰更好用、更易用。
“華為AI戰(zhàn)略的核心是算力，并堅持昇騰硬件變現(xiàn)。”他說道。
CANN的全稱是“神經(jīng)網(wǎng)絡(luò)異構(gòu)計算架構(gòu)”（Compute Architecture for Neural Networks），它的角色，是把上層AI訓(xùn)練框架（如PyTorch、TensorFlow、MindSpore等）和底層昇騰芯片連接起來的橋梁，讓開發(fā)者不用關(guān)心芯片細(xì)節(jié)就能調(diào)用底層算力。
與CANN作用類似的，還有英偉達的CUDA和AMD的ROCm，以及中國摩爾線程的MUSA、壁仞科技的BIRENSUPA、寒武紀(jì)的Neuware和海光信息的DTK等等。但最知名和影響力最大的還是英偉達的CUDA，它與英偉達GPU和NVlink構(gòu)成英偉達的核心護城河。
AI全棧軟硬件架構(gòu)
CUDA并不是單點技術(shù)，而是由多種技能棧和算子加速庫等組成的軟件生態(tài)系統(tǒng)。
“CUDA生態(tài)系統(tǒng)埋藏著巨大的遷移成本，它充當(dāng)PyTorch和英偉達GPU之間的橋梁。從CUDA遷移的開發(fā)者通常必須重寫大量代碼，被迫使用不太成熟的替代庫。此外，開發(fā)者還會失去圍繞CUDA發(fā)展起來的龐大故障排除社區(qū)的支持。”有行業(yè)人士對觀察者網(wǎng)說道。
換言之，英偉達GPU之所以受歡迎，并不僅是因為硬件的性能高，同時也因為CUDA軟件系統(tǒng)生態(tài)的完善，讓開發(fā)者可以更高效的發(fā)揮GPU本身的性能，降低使用成本。
華為在制裁前后發(fā)展了自己的昇騰芯片，雖然昇騰是NPU架構(gòu)，但也需要CANN來發(fā)揮“CUDA”的角色。與CANN配套的是華為自研深度學(xué)習(xí)框架MindSpore，其作用類似于PyTorch，這些工具共同構(gòu)成了華為原生的AI軟硬件方案，以對標(biāo)以英偉達為中心的PyTorch+CUDA方案。
2024年財報披露，華為持續(xù)構(gòu)建昇騰產(chǎn)品解決方案在性能、易用性、開放生態(tài)等方面的競爭力，CANN升級到8.0版本，新增200多個深度優(yōu)化的基礎(chǔ)算子、80多個融合算子、100多個Ascend C API，典型算子開發(fā)周期從2人月縮短至1.5人周......同時支持圖模式能力擴展庫，提升PyTorch在昇騰上的大模型推理性能。
為了擴大生態(tài)圈，CANN逐步兼容了更多AI框架。截至目前，CANN已支持包括PyTorch、MindSpore、TensorFlow、飛槳、ONNX、計圖、OpenCV和OpenMMLab等深度學(xué)習(xí)框架與第三方庫。
華為專家還對觀察者網(wǎng)表示，“我們堅持CANN實現(xiàn)分層深度開放，從最底層的算子開發(fā)層，到模型開發(fā)層、推理層，進一步兼容三方開源框架，讓運行在三方框架、推理引擎上的模型/應(yīng)用遷移至?xí)N騰無需修改。面向應(yīng)用開發(fā)層，我們將面向應(yīng)用開發(fā)提供更多SDK，讓應(yīng)用部署更便捷，模型訓(xùn)練和推理更高效。”
CANN支持的深度學(xué)習(xí)框架與第三方庫
但不可否認(rèn)，與發(fā)展了18年的CUDA生態(tài)相比，剛起步六七年的CANN，易用性和生態(tài)豐富度仍存在差距，并且任重道遠(yuǎn)。去年9月外媒報道，為了讓客戶適應(yīng)新生態(tài)，華為效仿英偉達最初推廣CUDA的策略，向百度、科大訊飛和騰訊派遣了工程團隊，幫助他們在CANN環(huán)境中重現(xiàn)和優(yōu)化現(xiàn)有的基于CUDA的訓(xùn)練代碼。
“開發(fā)者在社交媒體上表達不滿并不是壞事，相反將有助于華為改進CANN。發(fā)展新的生態(tài)絕不是一日之功，要知道英偉達花了18年才打造出如今的CUDA生態(tài)，即便華為在壓力之下，構(gòu)建一個有競爭力的軟件生態(tài)系統(tǒng)也需要數(shù)年時間。起初可能出于無奈之舉，隨著時間的推移，開發(fā)者可能會逐漸形成習(xí)慣，最終讓CANN等軟件形成能與英偉達軟件棧相抗衡的基礎(chǔ)設(shè)施。”有行業(yè)人士評論道。
相比CUDA閉源，此次CANN開源，無疑是華為希望盡快擴大CANN生態(tài)圈的最新舉措。華為表示，來自AI領(lǐng)軍企業(yè)、伙伴、高校與科研機構(gòu)的代表共同探討了如何更好地構(gòu)建開源開放的昇騰生態(tài)，共同發(fā)起了《CANN開源開放生態(tài)共建倡議》，以凝聚產(chǎn)業(yè)力量，共探AI邊界，共建昇騰生態(tài)。
之前，華為已在2020年開源了自研AI框架MindSpore，2024年已經(jīng)以30.26%的新增份額位列中國AI框架市場第一，再加上華為歷年相繼開源的鴻蒙、歐拉、高斯、倉頡等基礎(chǔ)軟件，也算是用行動回應(yīng)了某院士發(fā)表的“華為在技術(shù)發(fā)展上采取封閉式、壟斷性模式”的觀點。