2018年9月20日 星期四

科技創新(一百一十八):AIoT產業-從Core ML2與iPhone XS系列、XR的Neural Engine看邊緣運算


[蘋果的新手機發表了 人工智慧邊緣運算能力令人驚艷]
蘋果的新手機上週發表了,新版的iPhone XSXS max以及XR三種,而其中都附有A12 Bionic晶片,其中有6核心CPU4核心GPU ,以及8核心運用於人工智慧邊緣運算的Neural Engine,相較於iPhone X的A11 Bionic的雙核心Neural Engine,人工智慧推論運算能力強大很多。

圖:取自Youtube


iPhone X應用A11 Bionic成了最先上市的應用人工智慧邊緣運算的智慧型手機,它的使用人工智慧的影像辨識的解鎖手機螢幕的功能,開啟人工智慧邊緣運算的風潮,今年的新手機更是強化了這個能力,達到了兩個功能:1. 在手機端處理更多的深度學習的神經網路任務運算。2.CPUGPU之間做更好的工作分配。

[結合Core ML 2的能力 新手機上的應用人工智慧APP能力強化]
Apple為了強化手機上的軟體,提出了Core ML的人工智慧邊緣運算架構,而這樣的架構在今年64日提出了Core ML第二代,在同樣運算能力下,Core ML 第二代速度比第一代快了30%,而且可以跟Facebook CaffeCaffe2Kerasscikit-learnXGBoostLibSVM,以及GoogleTensorFlow Lite框架配合使用;同時另外提出了支持GPU的加速工具Create ML,用在Mac電腦上進行人工智慧模型的訓練,這樣可以讓iPhone手機上的應用人工智慧APP能力強化。

結合以上A12 BionicCore ML的資訊,可以得知今天蘋果想要在終端強化人工智慧運算能力的意圖,而透過Create MLMac環境下,就可以創造和訓練自定義機器學習模型,而算出的模型的推論引擎,會在A12 Bionic上用硬體及Core ML 第二代軟體加速,以在iPhone X S系列與iPhone X R 手機上有更好的表現,也為了達到這個目的,同時晶片體積能夠很小,這次的A12 Bionic晶片才破天荒地使用了最先進的台積電的7奈米製程。而這也展示了蘋果在邊緣人工智慧運算的進度領先各大公司,而在這些新手機上應用人工智慧的APP,相信將有很不錯的表現。

[各大廠商競相推出Edge端與雲端人工智慧加速晶片 整合後效率強化可期]
之前Google宣告了Edge TPU ASIC晶片,將結合雲端的TPU針對TensorFlow的超快速運算;而Google 雲端的對手AWSMicrosoft都決定要製作自己系統的雲端人工智慧加速晶片;另外中國大陸華為結合寒武紀的邊緣人工智慧晶片麒麟 970的榮耀系列手機;台灣的聯發科旗下的人工智慧平台 NeuroPilot 已經支援 Google Android 人工神經網路技術(Android Neural NetworkANN),更加入了由亞馬遜、微軟及臉書的ONNX聯盟,準備針對這個框架做對應加速晶片;連nVIDIA都跟艾睿電子合作,共同推出針對人工智慧與機器人,以及邊緣運算所量身設計的 NVIDIA Jetson Xavier 電腦;加上之前提到的蘋果最新手機的A12 Bionic的邊緣運算實力,從這些資訊中,可以看出接下來各大廠商會在邊緣運算上不斷強化,更甚者會結合雲端運算透過FPGAASIC加速對應框架(如TensorFlowONNX)加速運算效率,讓人工智慧深度學習的運算速度與邊緣運算應用不斷強化。

在這個趨勢之下,台灣的半導體設計廠商,除了聯發科有較大動作之外,其餘的廠商需要找出自己的利基,設計出好的人工智慧邊緣運算晶片,而加入ONNX聯盟或跟nVIDIA合作,是不錯的選擇。

沒有留言:

張貼留言

ESG綠色轉型實戰(十五):海洋大學林翰佳教授教農企業以天然成分的草本炭方替代抗生素強化魚蝦豬雞生長力

  YouTube 影片 Apple Podcasts Google Podcasts KKBox Podcasts Spotify Podcasts 文字稿摘要: