谷歌推出首款終端AI芯片Edge TPU,發(fā)力IoT市場
來源:智東西 ?? 2018-07-26
??????? 7月26日消息,谷歌于美國當?shù)貢r間周三發(fā)布了用于邊緣計算的新版AI芯片——微型AI加速器Edge TPU,可實現(xiàn)物聯(lián)網(wǎng)設(shè)備上的機器學(xué)習(xí)模型運算。 兩年前,谷歌推出可以輕松完成AI任務(wù)的張量處理單元TPU(Tensor Processing Units)。隨著連接設(shè)備的爆炸性增長,以及對隱私、機密性、低延遲和帶寬限制的需求,谷歌正將AI模型從云端轉(zhuǎn)移到終端。Edge TPU作為Cloud TPU處理器的簡化版本,將谷歌云的AI功能移植到物聯(lián)網(wǎng)上,使傳感器等設(shè)備能更快更便捷地處理數(shù)據(jù)。 一、把AI帶到邊緣:Edge TPU Edge TPU是谷歌專門設(shè)計的ASIC芯片,用于在邊緣設(shè)備上運行TensorFlow Lite ML模型進行推理。它在較小的物理和功耗范圍內(nèi)提供高性能,并在邊緣部署高精度AI,能夠使用戶以高效率的方式在高分辨率視頻上以每秒30幀的速度同時執(zhí)行多幀最先進的AI模型。Cloud IoT產(chǎn)品管理部門負責人Antony Passemard表示,Edge TPU的大小比1美分還要小許多。
?????? 目前,在為顯示面板生產(chǎn)玻璃的過程中,該檢測設(shè)備每秒可處理200多張玻璃圖像。
?????? ▲Edge TPU和Cloud TPU對比 作為Cloud TPU互補的產(chǎn)品,Edge TPU向用戶提供端到端和云端到端的硬件+軟件AI基礎(chǔ)架構(gòu),以便于部署基于AI的解決方案。不同于Cloud TPU,它只用于機器學(xué)習(xí)推理,不用于相關(guān)模型訓(xùn)練,因此可以以超低功率的方式進行計算,適合物聯(lián)網(wǎng)設(shè)備采用。Edge TPU使用的軟件和服務(wù)是Cloud IoT Edge和物聯(lián)網(wǎng)操作系統(tǒng)Android Things。它可以使用TensorFlow Lite和NN API兩種機器學(xué)習(xí)框架,以及Edge TPU、GPU和CPU三種硬件加速器。憑借其高性能、小尺寸和低功耗的特點,Edge TPU能在邊緣設(shè)備上實現(xiàn)本地實時進行高質(zhì)量的AI運算。 這款芯片不僅僅是一個硬件解決方案。它結(jié)合了定制硬件、開放軟件和最先進的AI算法,為邊緣提供高質(zhì)量、易于部署的AI解決方案。 Edge TPU具有較高的每瓦性能和較小的占地面積,可實現(xiàn)廣泛的工業(yè)用例,例如預(yù)測性維護,異常檢測,機器視覺,機器人,語音識別等等。它可以被應(yīng)用在制造、醫(yī)療保健、零售、智能空間、運輸?shù)取?二、Edge TPU的配套軟件:Cloud IoT Edge 谷歌還推出了Cloud IoT Edge軟件平臺,可將訓(xùn)練好的機器學(xué)習(xí)模型移植到邊緣計算基礎(chǔ)設(shè)施的設(shè)備上運行。該平臺有兩個關(guān)鍵組件。 其一是Edge IoT Core。這是Azure IoT Edge設(shè)備管理器和協(xié)議網(wǎng)關(guān),可將邊緣設(shè)備安全地連接到云、啟用軟件和固件更新,以及使用Cloud IoT Core管理數(shù)據(jù)交換。 其二是Edge ML。它是TensorFlow Lite ML工具的精簡版,在本地運行預(yù)先訓(xùn)練好的TensorFlow Lite ML模型,可以顯著提高邊緣設(shè)備的處理能力和多功能性。這使得下一波機器學(xué)習(xí)應(yīng)用程序和用例成為可能。 此外,該平臺還利用了谷歌專用的硬件加速器ASIC芯片Edge TPU TM。
?????? ▲Cloud IoT Edge的工作原理 Cloud IoT Edge將谷歌云強大的數(shù)據(jù)處理和機器學(xué)習(xí)擴展到數(shù)十億邊緣設(shè)備,如機器人手臂、風(fēng)力渦輪機和石油鉆井平臺等,因此他們可以實時處理來自傳感器的數(shù)據(jù)并在本地預(yù)測結(jié)果。Cloud IoT Edge可在Android Things或基于Linux的操作系統(tǒng)上運行。 結(jié)語:打通Edge TPU的生態(tài) 為了實現(xiàn)Edge TPU的快速開發(fā)和測試,谷歌為開發(fā)者提供了開發(fā)套件Edge TPU development kit。該套件包括一個模塊化系統(tǒng)(SOM),結(jié)合 Edge TPU、NXP CPU、Wi-Fi 和 Microchip 等安全組件。該套件將在今年10月對開發(fā)者開放,也可以注冊申請?zhí)崆霸L問(申請鏈接:http://t.cn/ReLmOSK)。 此外,谷歌還推出了兩款A(yù)IY設(shè)備,即AIY Edge TPU開發(fā)板和AIY Edge TPU加速器。AIY Edge TPU開發(fā)板內(nèi)置Edge TPU、NXP CPU處理器、集成GPU、8GB eMMC閃存、Wi-Fi功能和加密芯片。其長約3-4個10美元硬幣,寬約2-3個10元硬幣。
?????? AIY Edge TPU加速器是一個帶了type-C接口的USB設(shè)備,內(nèi)置Edge TPU處理器,可連接到Linux和Android Things系統(tǒng),并支持在TensorFlow Lite框架下運行。
?????? 這兩款A(yù)IY設(shè)備暫無提前申請渠道,將在今年秋天上市。