終于,亞馬遜也加入了全球AI芯片大戰(zhàn)。今天凌晨,亞馬遜在拉斯維加斯召開的AWS re:Invent大會上,亞馬遜AWS CEO Andy Jassy發(fā)布了一系列新產(chǎn)品,其中包括針對機器學習定制設(shè)計的云端AI芯片Inferentia。
根據(jù)官方介紹,AWS Inferentia提供高達數(shù)百TOPS的推理吞吐量,以允許復雜模型進行快速預測。另外,可以將多個AWS Inferentia芯片一起使用,以提高到數(shù)千TOPS的吞吐量。
AWS Inferentia將支持主流深度學習框架,包括谷歌開發(fā)的TensorFlow、Facebook開發(fā)的PyTorch和MXNet等。當然,作為亞馬遜自家的產(chǎn)品, Inferentia也支持EC2、SageMaker和最新的彈性推理引擎Elastic Inference。
Andy Jassy表示,“我們認為可以通過Elastic Inference節(jié)省75%的運營成本,所以這是一個改變游戲的重大規(guī)則。”
Inferentia芯片將于2019年底上市。與其他AWS服務一樣,客戶可以根據(jù)需求付費購買。
在云計算這條賽道上,亞馬遜AWS的市場份額一直遙遙領(lǐng)先,不過根據(jù)市場和技術(shù)的變化,他們也緊跟谷歌的步伐,推出針對云端機器學習優(yōu)化的芯片,在2016年,谷歌率先推出其首款TPU,目前已經(jīng)迭代到了第三代。同樣在國內(nèi),阿里、華為也有自己的云端AI芯片。
此次,亞馬遜的加入勢必會讓云服務市場競爭更為激烈。
在前幾天,亞馬遜還發(fā)布了基于ARM的芯片Graviton以及基于該芯片提供的EC2 A1虛擬服務器,這款芯片由亞馬遜于2015年收購的芯片開發(fā)商Annapurna Labs設(shè)計。亞馬遜表示,Graviton在運行特定工作負載時成本比英特爾或AMD的芯片最多要低45%,要知道,服務器市場芯片基本上是被這兩家所統(tǒng)治。
Graviton的推出不僅僅是亞馬遜AWS對自己業(yè)務產(chǎn)品的一次強化,也是Arm在移動設(shè)備之外的新嘗試。
除此之外,亞馬遜AWS還推出了支持超級賬本平臺和以太坊架構(gòu)的區(qū)塊鏈服務Amazon Managed Blockchain。
關(guān)鍵詞: