上月，全志科技發(fā)布了新款智能語音專用處理器，這是 Arm 中國耗時兩年研發(fā)的周易 AIPU 的落地首秀。近日，雷鋒網(wǎng)與 Arm 中國產(chǎn)品研發(fā)副總裁劉澍和全志科技副總裁陳風進行了深度交流，了解到了 Arm 中國的產(chǎn)品進展以及 Arm 中國與全志科技定制周易 AIPU 的更多細節(jié)。

　　Arm 和 Arm 中國的 AI 產(chǎn)品沖突了嗎?

　　Arm 中國在 2018 年注冊成立，中方投資團隊占股 51%，Arm 公司占股 49%，接管 Arm 在國內(nèi)的所有業(yè)務。同時，Arm 中國也會研發(fā)更符合中國市場需求的產(chǎn)品。據(jù)悉，Arm 中國從 2018 年開始就在推進 3 個產(chǎn)品線，分別是：周易 AIPU、山海平臺安全解決方案、星辰處理器。

　　劉澍透露：“這三個產(chǎn)品線從團隊建立、到產(chǎn)品開發(fā)到發(fā)布客戶、到客戶芯片流片回來測試的工作，目前一切進展順利。今年第一季度恰好都有客戶的芯片返回而且工作正常。”

　　周易 AIPU 屬于當下最受關注的 AI 產(chǎn)品品類，也是 Arm 中國最先看到落地應用的產(chǎn)品。“與 Arm 不久前推出的配合 Arm Cortex-M 處理 Ethos-U55 和配合 Cortex-A 處理器的 Ethos N 系列 NPU 相比，Arm 中國周易 AIPU 更加通用，既可以跟 Cortex-M 或 Cortex-A 一起工作，也可以作為處理器進行獨立工作。”劉澍對雷鋒網(wǎng)(公眾號：雷鋒網(wǎng))表示。

　　也就是說，周易 AIPU 既不是 CPU 處理器，也不是神經(jīng)網(wǎng)絡加速器。這是因為，周易 AIPU 定義了一套新的適用于 AI 算法的指令集，通過指令來驅(qū)動里面的向量處理單元和固定的 AI 算法處理單元，從而完成各種復雜網(wǎng)絡的組合的操作。

　　但作為一款 AI 處理器，周易 AIPU 也必須尋找通用性和效率的平衡點，以提升產(chǎn)品的競爭力。周易 AIPU 的做法是，用向量處理單元 Vector/Tensor Process 的并行的8-bit 向量陣列進行向量計算，Arm 中國為 Vector/Tensor Process 定義了一整套向量處理指令集，有點類似于 Arm 此前的 NEON 指令集。

　　另外，周易 AIPU 中的 AI Fix Function 把常見的 AI 網(wǎng)絡里所通用的部件和單元固化為硬件，通過指令就可以驅(qū)動硬件工作，提升效率。

　　標量部分，周易 AIPU 也有標量單元，這個單元并非完成的 CPU，但有類似標量處理器的功能。

　　因此，周易 AIPU 用標量處理單元 Scalar Unit、向量處理單元 TensoCre Ellxe.Cell，還有能提升 AI 效率的 AI Fix Function，最終實現(xiàn)通用性和效率的兼顧。

　　除此之外，周易 AIPU 的架構中還有可擴展的安全架構和可擴展的用戶定義架構。“可擴展的用戶定義架構其實就是給像全志科技這樣的戰(zhàn)略合作伙伴準備的，因為有的客戶可能很簡單地把 AIPU 集成下來就可以了，但也有一些比較有深入研究的芯片公司，會對里面的算子有自己定制的理解和需要。”劉澍進一步指出，

　　“我們開放了這樣的接口，可以用特殊的指令來驅(qū)動用戶定義的算子。因此，不同周易 AIPU 平臺的產(chǎn)品最終的效能可能不同。”

　　當然，周易 AIPU 也是一些列高度可配置的處理單元，開發(fā)者既可以配置通用的 Tensor 算力，也也已配置 AI Fix Function 專用算力。周易 AIPU 單核性能為 0.2TOPS-4TOPS，用多核配置組成系統(tǒng)最高可實現(xiàn) 64TOPS 的算力。

　　全志科技最新發(fā)布的 R329 語音專用 SoC 中集成的正是定制的周易 AIPU。

　　定制化是 AI 處理器提升競爭力的關鍵

　　全志科技 R329 中集成了定制的周易 Z1-0701，1 代表的是 Arm 中國第一代周易 AIPU 架構，07 指它有 2 的 7 次方個硬件 MAC，01 表示還有一個通用的 Tensor 處理單元。劉澍說：“0701 是專門針對智能家居、智能樓宇、智能機器人這樣的場景深度定制的，它可以非常高效地運行在本地的 ASR 的各種語音算法。同時，它也有相對比較簡單的視覺的分析能力，比如說圖像和人臉識別以及感知。”

　　劉澍也表示，Arm 中國是根據(jù)全志科技給出的市場定位，在周易 AIPU 的處理器上又花了數(shù)月的時間進行定制，最終做出全志科技所需要、在市場上具備競爭力的產(chǎn)品。這樣，通過全志科技這個戰(zhàn)略合作伙伴，不僅帶來了準確的市場需求信息，更用頂實話的方式開發(fā) IP 保證 Arm 中國的產(chǎn)品最切合客戶需求。

　　全志科技副總裁陳風也說：“當下僅僅把芯片做好還不夠，在過去幾年里，我們花了非常多時間進行市場信息搜集，涉及市場需求，實現(xiàn)方式、手段、技術細節(jié)等。所以，在我們雙方探討合作的時候，Arm 中國也發(fā)現(xiàn)全志科技擁有非常多有價值的市場需求信息和思考，這也促成了雙方的迅速合作。”

　　“通過跟非常多的友商和算法公司進行了大量的交流，發(fā)現(xiàn)大家對專用算力是有明確需求的，所以我們就推出了全志科技 R329 這樣的芯片，經(jīng)過了 10 個月左右的研發(fā)，這款新品已經(jīng)有樣片和樣機。”陳風也透露。

　　“各家知名的算法廠商，包括訊飛、思必馳還有其他的合作伙伴都已經(jīng)開始做了算法的工作，他們的反饋現(xiàn)在都是非常好的。”

　　對于算法公司而言，算法移植的難度以及與硬件匹配的軟件的易用程度成為關鍵。據(jù)悉，通過 Arm 中國和全志科技的合作，可以實現(xiàn) TensorFlow 模型的 24 小時移植。未來，周易 AIPU 還會支持更多的業(yè)界主流的 AI 框架。

　　不過，在 AI 框架之下，還需要 Arm 的 Compute Library 或者是 Open AI Lab 的異構計算庫，進一步去支持像 Arm NN、安卓 NN 比較流行的接口。像全志這樣有實力的公司，則會有自研的 Tina OS 和 Runtime 的框架，只要把周易 AIPU 的驅(qū)動層接進去都可以正常工作。

　　陳風介紹，Tina OS 在全志科技內(nèi)部使用已經(jīng)有5、6 年的歷史，它是一個輕量級的 Linux OS，使用 Tina OS 的名稱后已經(jīng)迭代了三個大的版本，整個 OS 完全開源，并且啟動速度非?？欤F(xiàn)在全球已經(jīng)有累計超過 5 千萬臺的設備使用了 Tina OS，包括音箱、掃地機、冰箱和微波爐等。

　　品質(zhì)和靠譜是 AI 芯片落地的關鍵

　　成立于 2007 年的全志科技，早在 2011 年就開始進入智能音箱產(chǎn)品，但那時的智能音箱是能連上 Wi-Fi 就叫智能，和 2013 年之后我們所說的智能音箱的概念還是有所不同。全志科技新發(fā)布的 AI 芯片會以智能音箱為切入點，然后滲入到智慧城市，包括智能樓宇、智慧工業(yè)以及智慧生活當中。

　　陳風預計，家電產(chǎn)品應該在 2020 年和 2021 年左右開始迎來第一波的智能化的普及浪潮。

　　他指出，語音面板看起來不起眼，實際上量非常大的市場。因為工業(yè)控制器、電梯、汽車的駕駛平臺以及一些專業(yè)的電子設備都會有控制面板，這個面板的語音化現(xiàn)在也已經(jīng)開始全面啟動了。

　　談及全志科技 AI 產(chǎn)品的核心競爭力，陳風說：“我們現(xiàn)在是有非常明確的答案和信心的，任何一個產(chǎn)品或者是技術的落地，需要的是非?？煽康囊环N實現(xiàn)方式。我所說的可靠，不僅來源于全志科技有實力，過去的經(jīng)歷也證明我們公司能夠向客戶提供極其持久的技術支持和產(chǎn)品支持。”

　　另外就是品質(zhì)，“電子產(chǎn)品是否可靠，在消費電子領域、工業(yè)電子領域，以及在智慧家庭領域有截然不同的等級要求。在家電領域，品質(zhì)也是客戶重點考量的對象，要求的級別可能是 99.9%，也可能是 99.99%，最高達到了 99.9999%，這么高的可靠性要求，背后也是客戶精細化經(jīng)營的要求。”陳風指出，“通過類似的場景大家可以感受到，語音技術在商品化的過程中，靠譜這兩個字是有多么重要，它擺在了先進性之前。”

　　雷鋒網(wǎng)小結

　　Arm 的 AI 產(chǎn)品的發(fā)布和落地進展在業(yè)界都并非最快，這其中很重要的原因就是 Arm 在權衡 NPU 的效率和靈活性花了更多時間。在 Arm 中國的產(chǎn)品中，周易 AIPU 作為 Arm 中國的首款 AI 產(chǎn)品，通過一套新的 AI 算法指令集適應 AI 處理器的需求，兼顧通用性和效率。并且，周易 AIPU 的指令集設計和架構設計都由 Arm 中國完成，因此這也是一個 Arm 中國自主可控的產(chǎn)品。

　　Arm 中國與全志科技的合作，是周易 AIPU 的首秀，最終的競爭力到底如何，我們將保持關注。另外，Arm 中國除了將周易 AIPU 授權給智能家居領域的公司，還授權給了汽車應用領域、手機領域和安防監(jiān)控等領域的芯片合作伙伴，周易 AIPU 的表現(xiàn)值得期待。

　　還有一個值得關注的問題，周易 AIPU 和 Ethos NPU 在中國市場會如何協(xié)同發(fā)展?
　　（邯鄲網(wǎng)絡公司）