以算子為原子指令集的AI計算處理器愛芯通元NPU采用多線程異構多核設計，實現算子、網絡微結構、數據流和內存訪問優化，高效支持混合精度算法設計，natively支持Transformer網絡結構，為大模型在邊緣側、端側的應用提供良好的基礎。

經過多代產品的量產和客戶反饋，并結合行業前沿技術的發展趨勢之下，愛芯通元混合精度NPU支持豐富的算子種類，支持客戶使用靈活的混合計算模式，優化高效的調度機制，高效率支持包括CNN網絡、Transformer網絡和BEV在內的各種算法模型。愛芯通元NPU的工具鏈——Pulsar2功能完善、易用使用，支持主流深度學習訓練框架的模型部署，支持PTQ、QAT兩種不同的量化操作，內置多種量化算法，滿足各種場景的量化調優功能。