目前AI服務(wù)和算法模型不斷快速演進(jìn)，AI計算平臺難以快速適應(yīng)新服務(wù)、升級新算法。

為了幫助開發(fā)者快速推出新業(yè)務(wù)，為消費者提供新體驗，華為HiAI  Foundation在華為開發(fā)者大會2021(HDC)上發(fā)布了全新技術(shù)功能——端云協(xié)同。一起)。端云協(xié)作是為新業(yè)務(wù)場景運營商和現(xiàn)有典型業(yè)務(wù)場景運營商提供性能優(yōu)化和平臺能力快速升級的解決方案。它擁有可變的計算框架和廣泛的模型結(jié)構(gòu)，幫助開發(fā)者快速支持新模型和推出新服務(wù)，讓消費者快速獲得端側(cè)AI帶來的體驗提升。

把運營商庫放到云端，老手機“煥發(fā)青春”

首先，端云協(xié)同解決了老手機的“新服務(wù)”問題。

以往消費者想要體驗最新的AI功能和服務(wù)，需要等待運營商庫更新，而運營商庫內(nèi)置在手機的ROM中，只有在手機新版本更新時才能更新運營商庫。但是，舊手機的版本更新次數(shù)會隨著時間的推移而減少，甚至?xí)Ｖ狗?wù)，停止更新。如果手機版本不更新，運營商庫的升級將成為難題，消費者體驗將被耽誤。此外，新功能從開發(fā)到rom升級的周期也是幾個月，極大影響了新業(yè)務(wù)推出的周期。

端對云協(xié)同可以讓老手機用戶更靈活地享受更新更好的服務(wù)，不受終端版本的限制。基于華為端核云的優(yōu)勢，——底層是計算芯片和HiAI  Foundation，端側(cè)有預(yù)設(shè)的HiAI  Engine，云側(cè)有自己的計算庫插件更新云，HiAI  Foundation可以把運營商庫放到云中。當(dāng)新支持的運營商或性能優(yōu)化發(fā)布后，華為HiAI  Foundation會在空閑時間默默自動更新新的運營商庫。開發(fā)者只需要在APP開發(fā)的時候正常調(diào)用，不知覺地使用升級后的計算能力，就可以刷新舊手機。

fde4c2e8-42c3-11ec-b939-dac502259ad0.png

(HiAI基金會云協(xié)作示意圖)

將模型放到云中，開發(fā)人員可以根據(jù)需要使用它。

其次，端云協(xié)作可以快速匹配開發(fā)者的需求，幫助他們降低開發(fā)成本。

通常，應(yīng)用程序開發(fā)的理想狀態(tài)是一個模型可以應(yīng)用于所有類型的手機終端。雖然在CPU上運行該模型可以實現(xiàn)這一目標(biāo)，但傳統(tǒng)的以CPU為核心的計算架構(gòu)已經(jīng)不能滿足當(dāng)前應(yīng)用對計算性能的強烈需求，很多應(yīng)用只有借助NPU強大的計算能力才能將功能發(fā)揮到極致。此時，開發(fā)人員需要為NPU定制模型，但問題隨之而來。一方面，不可能在打包的一個SDK中下載所有的模型，另一方面，API的大小會受到限制，開發(fā)麻煩會增加而不是減少。

HiFoundation的云協(xié)同解決方案支持開發(fā)者將模型放入云端，不僅可以節(jié)省APP的體積，還可以為芯片獨立部署最佳模型，最大化用戶體驗。端云協(xié)同技術(shù)不會干擾開發(fā)者的任何模型數(shù)據(jù)，真正建立起完整的生態(tài)屏障，幫助各行業(yè)開發(fā)者加速業(yè)務(wù)應(yīng)用的落地。

fe6c9a4c-42c3-11ec-b939-dac502259ad0.png

(HiAI基金會云協(xié)作示意圖)

未來是一個以智力為主導(dǎo)的時代。HiFoundation將利用這一端云協(xié)同的渠道，進(jìn)一步放大端側(cè)的AI能力，通過端云協(xié)同的運營商搜索、融合策略、異構(gòu)細(xì)分策略、FFTL等技術(shù)賦能NPU模型，快速、高效地解決開發(fā)者的技術(shù)難題