在巨头环伺的(de)边缘计算(suàn)市场上,对于谷歌来说,Coral 的吸引力不一定是收入,而(ér)是有(yǒu)关人工智能(néng)如何应用到(dào)重要场景的信息与经验。
Coral 是(shì)一个由谷(gǔ)歌硬件和(hé)软件组件(jiàn)组(zǔ)成(chéng)的平台,主打汽车(chē)和医疗健(jiàn)康(kāng)场景。尽管(guǎn)绑定谷歌生态以实(shí)现(xiàn)差异化竞争,但目前 Coral 的大(dà)部(bù)分(fèn)订单都(dōu)是单个组件,只(zhī)有少数客(kè)户以10K 起购。
去年(nián)三月,谷歌(gē)推出名为 Coral 的本地终端 AI 平台,包含 TPU、Coral Dev Board、USB 加速器(qì)和(hé)摄像头(tóu)等四个部分。
平台强调以低功(gōng)耗(hào)水平提(tí)高出色(sè)的 ML 推(tuī)理性(xìng)能(néng),能够以良好的(de)功(gōng)率表现(xiàn)执行 mobilesNet v2等最先进(jìn)的(de)移动视(shì)觉模型,且(qiě) fps 可达100以上(shàng)。
基于 Coral 平台,谷歌发布了五款设备,分别是售价不到1000元人民币(bì)的单板计算机「Coral Dev Board」(由 Edge TPU 模块(kuài)和 baseboard 组成)、支持 Raspberry Pi 或(huò) Debian Linux 计算机的 USB 加速器、对应 Dev Board 的500万(wàn)像素镜头(tóu)模块、 Dev Board 的系统模块(SoM),和轻易(yì)将机(jī)器学习加速器 Edge TPU 与现有计(jì)算机(jī)系(xì)统整合的 PCI-E 加速(sù)器。
portant;" />
备(bèi)有 Edge TPU 机器(qì)学习加速的 Coral Dev Board
最初,项目在选定地区推出了(le) Beta 版,经过六个(gè)多(duō)月的(de)反(fǎn)馈(kuì)与改(gǎi)进,去年10月,Coral 从 Beta 版毕业,在更多地区推出面(miàn)向全球发行的(de)版本。
1Coral 起源
尽管 Coral 的目标(biāo)客户是企业,但项目起(qǐ)源(yuán)于(yú)谷歌(gē)「AIY」系列(liè)自助机器学习工具。2017年,谷歌曾(céng)推出 AIY kit,借由树莓派 (Raspberry Pi) 电脑支持,任何人都可(kě)以自己制作智能音箱和智能相机(jī)。
虽然项目在(zài) STEM 玩(wán)具(jù)和制造商市场上取(qǔ)得了巨(jù)大成(chéng)功,但是 AIY 的团队也很(hěn)快就(jiù)注意到,一些客户只是想(xiǎng)按照指示来制作玩具,但也有(yǒu)一些客户想把硬件改造成自己(jǐ)的产品原型,为了迎合这些顾客,Coral 应运而生。
2019年,已(yǐ)经推出 Dev Board、USB Accelerator 以及多款 PCIe Accelerator 产(chǎn)品组合,已经在(zài)全球36个国家进行部署。在今年的 CES 大展上(shàng),谷歌进(jìn)一步更新(xīn)平台,推出多款产品,扩大应用面。
第一款新(xīn)产品是 Accelerator Module 加速模(mó)组,这款多(duō)芯(xīn)片模组包括了 Edge TPU ASIC,并支持 PCIe 与 USB 接口(kǒu),可以嵌(qiàn)入定制的印刷电路设计(jì),是谷歌和日本电子零件制造商(shāng) Murata 共同打造的。
第二款(kuǎn)产品则(zé)是 Dev Board Mini 开发板,体积(jī)比 Dev Board 体积更小(xiǎo),搭载 MediaTek 8167s SoC,可达成720P 解析度影(yǐng)像编码/解(jiě)码以及电脑视(shì)觉运用,功耗更低、更(gèng)加经济实(shí)惠,两者预(yù)计在(zài)2020上半年正式上市(shì)。
Google 亦打造不同版本的 Coral 系统模组(zǔ)(SoM),除了原本的1GB LPDDR4配(pèi)置之外,新增了(le)2GB 与(yǔ)4GB 配置的版本。
人工(gōng)智能的快速发展(zhǎn)和日(rì)趋成熟(shú),已经让机(jī)器人(rén)得以(yǐ)执行此前仅能由人类完(wán)成的(de)各(gè)项任务。
为了在(zài)工厂产线(xiàn)上进(jìn)行(háng)质量控(kòng)制,可以设(shè)置 AI 驱动的摄(shè)像头(tóu)发现缺陷;为了高效处理大(dà)量医疗数据(jù),人们可以借助(zhù)机器学习识别潜在的(de)肿瘤,帮助医生预防和及时治(zhì)疗。
不过(guò),这些(xiē)应用场(chǎng)景只有在数据处(chù)理足够快速和安全的前提(tí)下才能完成。如果在工厂环境中,AI 摄像头需要数分(fèn)钟时间来处(chù)理(lǐ)图像,那就没有实际意义(yì)。如果需(xū)要(yào)将患者数据(jù)传送到(dào)云端,必(bì)然会带来医疗数据被泄(xiè)露的风险。而(ér)谷歌的 Coral 项目正希望解决这些问题。
来自 (人工智能) 设备的数据,通常被发送到大型(xíng)数据(jù)中心,机器学习模型可以在这里得以高速运行(háng)。Coral 的产品经理(lǐ) Vikram Tank 解释道,Coral 是一个由谷歌的硬件和软件(jiàn)组件组成的平台(tái),可(kě)以帮助用户构建具有本地人工(gōng)智(zhì)能的(de)设备(bèi),也就是说(shuō),在边缘设(shè)备上为神经(jīng)网络提供(gòng)硬件加速。
portant;" />
像开发板(如上(shàng))一(yī)样,Coral 的产品可(kě)以用于制作新 AI 设备原型(xíng)。
2两大核心场景
Coral 不仅旨在帮助工程师和研究人员(yuán)将新模(mó)型带出数据中心并带入设备(bèi),从而(ér)在边(biān)缘高效运行 TensorFlow 模(mó)型,本质上,它也(yě)是边缘硬件在农业(yè),医疗保健到制造业(yè)等行业新应用的(de)核心。
试想(xiǎng)一辆以每小(xiǎo)时(shí)65英里行(háng)驶的汽车,穿越10英尺的距离(lí)仅耗时100毫秒,这意味着任何延(yán)迟都(dōu)会当事人的生命(mìng)风险,如果可以在设备(bèi)端就进行数据分析和计(jì)算,而不必受(shòu)限(xiàn)于(yú)缓慢的网络延(yán)迟,看到(dào)信号灯(dēng)转变红色立刻停车,当事人会安全许多。
在医学领域,将(jiāng)分析处理留在设(shè)备端,也能很(hěn)大程(chéng)度改善隐私问题(tí)。特别是对于那些利(lì)用图像识别对超声图像进(jìn)行实时(shí)分析的医疗设备制造商来说,将病患(huàn)图像(xiàng)发送到云端,无疑成(chéng)为黑客攻击的一(yī)个薄(báo)弱环节,如果在设备上进(jìn)行图像进(jìn)行分析,这些敏感数据就不会超出医生与病患的控(kòng)制范围。
有市场分析师预(yù)测,到2020年,边缘端的 AI 芯片和搭载(zǎi)其的计算机将超过7.5亿(yì)个/台,到2024年将增(zēng)长(zhǎng)到15亿个。尽管其中大多(duō)数将安装在诸如电(diàn)话之类的消费类设备(bèi)中(zhōng),但绝大部(bù)分将(jiāng)运用于行业中的企业客户例如汽车和医疗保健(jiàn)。
Coral 产品经理明(míng)确表(biǎo)示(shì),单身(shēn)工程(chéng)师们可以用这些硬件打造智能棉花糖(táng)分拣(jiǎn)机或者喂(wèi)鸟器(qì),但项目的(de)长期重点客户是汽车和(hé)医疗健康行业。
portant;" />
谷歌的(de) Edge TPU,也是大多数 Coral 产品(pǐn)的核心(xīn)。
3绑(bǎng)定生态的差(chà)异化竞(jìng)争(zhēng)
谷歌认识到,有越来越多的行业已经认识到本地化 AI 的(de)价值,也(yě)确实在(zài)推动设备上的机器学习。
在今(jīn)年的 I/O 大会上,除了在 I/O 大会上(shàng)展示(shì)的(de) Pixel 4设备上(shàng)的语音识别模型外,他们还宣(xuān)布(bù)了「本(běn)地家(jiā)庭 SDK」,允许连接的家庭设(shè)备无(wú)需与云端即可进(jìn)行(háng)直接(jiē)操(cāo)作
但是,谷歌面(miàn)临的问题是(shì),有几十家公司的目标与 Coral 类似。特别是巨(jù)头们边缘(yuán)端 AI 布局的完善和实力正在进一步增强,边缘端芯片(piàn)市(shì)场竞(jìng)争也因此变得(dé)更加(jiā)激(jī)烈。
比如,这是苹果从一开始(shǐ)就采(cǎi)取的策略,特别是 John Giannandrea 离开谷歌,担任苹(píng)果机器学习和人工智能主管(guǎn)之后。最近(jìn),苹(píng)果又(yòu)将(jiāng) Xnor.ai 收入囊中(zhōng)。这(zhè)家创业公司的重点是机器学习和图像识别(bié)工具,这些技术可以在低功耗(hào)设备上运(yùn)行,不(bú)需要依靠云计算架(jià)构(gòu)。在此之前,苹果收购了(le)主打隐私的人工智能(néng)初创公司 Silk Labs。
Jetson 是英(yīng)伟达在面向嵌入(rù)式市场的产品线,正是对标英特(tè)尔(ěr) Movidius。区别(bié)于其(qí)他(tā)边缘 SoC 的特点,Jetson 家族强调并行运(yùn)行多个神经网络。截至(zhì)目前,Jetson 已发布四个(gè)系列,主要(yào)部署在边缘与(yǔ)终端应用(yòng)上,适(shì)用于机器人、无人机和智能摄像头等(děng)应用。
不过,继(jì)英伟达最小边缘超算后,英特(tè)尔再推10倍提升(shēng) VPU,与之抗(kàng)衡。
在中国市(shì)场,华为推出首款面向边缘计(jì)算品牌N腾,除了瞄(miáo)准(zhǔn)机器人、智能(néng)制造等终端智能产(chǎn)品,同时(shí)也(yě)是华(huá)为在安(ān)防智(zhì)能摄像头和边缘计算(suàn)的重要布局。
对此,Coral 团(tuán)队表示,考虑到市场上有大(dà)量的竞争对(duì)手(shǒu),他们(men)将硬件与谷歌的人工智(zhì)能服(fú)务生态系统紧密整合,从而使自己与众不同。事实上,芯片、云培训、开发(fā)工具(jù)等,也一直是谷歌人工智能服(fú)务的关键优势(shì)。比如(rú),Coral 就有一个(gè)专(zhuān)门服(fú)务硬件编译的人工智能模型(xíng)库。
Coral 与谷歌的人工智能生(shēng)态系统紧密(mì)结合(hé),以至(zhì)于基(jī)于 TPU 的边缘(yuán)硬件只能与(yǔ)谷歌的(de)机器学习框架 TensorFlow 兼容,对于市场潜在用(yòng)户来说,这些(xiē)深度(dù)绑定可能会适得其(qí)反。
Kneron 在接受媒体采访(fǎng)时曾(céng)表示,尽管谷歌进入这个市(shì)场(chǎng)验(yàn)证(zhèng)并推动了这个领域的创新,但是,Coral 产(chǎn)品专为谷歌平台设计(jì),而他(tā)们的产品支(zhī)持市(shì)场上所有主要 AI 框架和模(mó)型。
可(kě)以肯定的是(shì),谷歌肯定不会像(xiàng)推(tuī)行云端 AI 服(fú)务那样大力推广 Coral。一位熟悉内情(qíng)的消息人士(shì)告诉媒(méi)体(tǐ),Coral 的大部(bù)分订单都是某个组件 (例如(rú) AI 加速器(qì)和开发(fā)板(bǎn)),只有少数(shù)客户以(yǐ)10K 份起(qǐ)购。
不过,在机器学习(xí)不可避(bì)免地从云端走向(xiàng)边缘的(de)过(guò)程中,对谷歌来说(shuō),Coral 的吸引力不一定是收入(rù),而(ér)是提供了有关人工(gōng)智能如何(hé)应用到重要场景的信息与(yǔ)经(jīng)验。