來源:不二科技精選
本文來自微信公眾號:品玩 (ID:pinwancool),作者:NeilShen,題圖來自:視覺中國
【資料圖】
Meta公布了自研芯片的進展。名為Meta Training and Inference Accelerator,即Meta訓練和推理加速芯片,簡稱MTIA。它預計將于2025年發布。
Meta宣稱MTIA是提高效率和水平的重要工具, 定制化的MTIA采用ASIC架構,可并行執行多個任務,適用于AI加速計算,從而成為Meta人工智能訓練和推理芯片家族中重要的組成部分。
Meta強調,雖然芯片的內存和網絡等功能還需要進一步優化,但MTIA在每瓦性能方面“顯著”提升了效率,可以幫助Meta更好探索人工智能前沿技術。
此外Meta還表示,MTIA將專注于人工智能推理,而不是訓練。
第一代MTIA由Meta在2020年創建,使用了7納米工藝,在Meta自己設計的性能測試中,它被認為在“中低復雜度”的AI模型方面相比GPU具有優勢。
Meta AI 官方關于MTIA芯片的示意簡圖
除了MTIA,Meta還在開發另一種芯片,被稱為Meta可擴展視頻處理器(MSVP),顧名思義,MSVP主要的工作是將視頻內容——不管是短視頻還是直播,都盡量通過MSVP來加載整合,滿足不同平臺渠道對碼率、分辨率和低延遲等需求,避免讓基礎視頻需求采用軟件編碼形式處理,進而加速整個視頻工作流程。
Meta在幾個月前成立了生成式AI團隊,據說扎克伯格,CTO Andrew Bosworth花了大量的時間和這個團隊討論Meta在人工智能領域能做些什么。上周他們剛推出了針對廣告客戶的內容設計工具。
Meta在人工智能的進展過去集中在審核過濾和廣告推薦算法這些領域,許多時候這些負載是使用CPU組合運行的,再加上定制的專門用于加速的AI芯片。
隨著生成式AI的爆發,Meta已經采購了大量的英偉達芯片,原來的芯片方案已經被放棄。
Meta基礎設施副總裁Alexis Bjorlin在TechCrunch的采訪中將自研芯片形容為“構建對堆棧所有層面的控制能力”,這和百度的AI戰略思路很相似,從數據中心設計到訓練框架再到數據集和算法,Meta試圖在AI方面追上競爭對手,開始進行對本身AI全鏈條資源的整合。
自研芯片緊鑼密鼓提上日程,形成對比的是現在所有人都還在依賴英偉達的芯片。
Meta目前訓練大模型所使用的是名為Research SuperCluster (RSC)的超級計算機,它內置了2000個英偉達DGX A100系統,包括16000塊A100 GPU。
谷歌和微軟也都有自己的超級計算機,微軟把它整合在了自己的Azure云上(然后又和OpenAI結合在一起,后者使用微軟的資源訓練大模型),谷歌的超算則有26000塊H100 GPU。
超算資源直接和大模型開發訓練以及推理的進度有關,但也意味著會受到英偉達產能的“卡脖子”,因此各家都在推動自研芯片進展。
Google很早就研發了名為TPU的訓練芯片,AlphaGo就由其驅動。上個月有消息傳出,微軟在秘密研發自己的AI芯片,合作伙伴是英偉達對手AMD。
Meta走向自研之路是順理成章的,強化在AI領域的垂直整合能力不僅可以降低成本,定制芯片還能方便根據自家業務需求定制功能,更容易打造差異化競爭點。
如果Meta的大模型一方面能在傳統的社交業務上支撐內容廣告營銷(這部分具體的運行模式Meta自己承認也還在探索中),另一方面將生成式AI接入元宇宙,幫助用戶生成數字孿生形象和相關的代碼,那么其增長潛力將會極其巨大,扎克伯格在2月份就表示要致力于提高Meta的人工智能算力,押注AI的未來看上去是必由之路,Meta的自研芯片是向這條道路進發的最新嘗試。
本文來自微信公眾號:品玩 (ID:pinwancool),作者:NeilShen
關鍵詞:
*ST凱撒:控股股東被動新增平倉,第一大股東變更為海航旅游
5月23日晚間,凱撒同盛發展股份有限公司(*ST凱撒,000796 SZ)發布公告稱,公司于5月23日收到公司控股股東
不可缺“濕”的生態之美!一起暢游大灣區濕地公園_今日要聞|焦點要聞
南方網訊(見習記者 盧玲玲實習生 龔湘怡)5月22日是國際生物多樣性日。濕地具有涵養水源、凈化水質、美化 ">
熱議:當心!沙特能源大臣警告油市空頭 OPEC+又要減產?
【當心!沙特能源大臣警告油市空頭OPEC+又要減產?】有報道稱,沙特阿拉伯能源大臣阿卜杜勒-阿齊茲·本·薩
【世界時快訊】盛德鑫泰:連續3日融資凈償還累計79.56萬元(05-23)
2023年5月23日盛德鑫泰連續3日融資凈償還累計79 56萬元
蘋果手機持續收到涉黃短信?網友反饋不分男女都會收到,警方透露原因
最近,不少網友反映,自己收到一些莫名其妙的信息,內容涉黃或者涉賭。信息說自己是在校大學生要兼職,可以