存儲(chǔ)器密度超8倍,取代HBM的新技術(shù)出現(xiàn)了? |
時(shí)間:2024-08-20 來(lái)源:管理員 |
存儲(chǔ)器廠商N(yùn)EOSemiconductor發(fā)布最新3DX-AI芯片技術(shù),取代目前用于AIGPU加速器的HBM。 據(jù)悉,這款3D DRAM內(nèi)建AI處理功能,使處理和生成不需要數(shù)學(xué)運(yùn)算輸出,當(dāng)大量數(shù)據(jù)在存儲(chǔ)器與處理器間傳輸時(shí),可減少數(shù)據(jù)匯流排(Data Bus)問題,提升AI效能與效率。 3D X-AI芯片的底層有個(gè)神經(jīng)元電路層,可處理同一芯片上300個(gè)存儲(chǔ)器層所儲(chǔ)存的數(shù)據(jù)。NEO Semiconductor表示,由于8,000個(gè)中子電路(neutroncircuits)可在存儲(chǔ)器中進(jìn)行AI處理,該3D存儲(chǔ)器效能可提升100倍,存儲(chǔ)器密度比目前HBM高8倍,透過(guò)減少在GPU中處理的數(shù)據(jù)量,可降低99%耗電量。 NEO Semiconductor創(chuàng)辦人兼CEO許富菖指出,由于架構(gòu)和技術(shù)低效率,目前AI芯片浪費(fèi)大量效能和電力。目前AI芯片架構(gòu)是將數(shù)據(jù)儲(chǔ)存在HBM、GPU負(fù)責(zé)執(zhí)行所有運(yùn)算,這種架構(gòu)將數(shù)據(jù)儲(chǔ)存與處理分離,使數(shù)據(jù)匯流排成為無(wú)法避免的效能瓶頸,當(dāng)大量傳輸數(shù)據(jù)時(shí)效能有限,耗電量也非常高。 3D X-AI可在每個(gè)HBM芯片中執(zhí)行AI處理,大幅減少HBM與GPU之間傳輸?shù)臄?shù)據(jù),提升效能并大幅降低功耗。 X-AI容量為128GB,每個(gè)芯片可支援10TB/s的AI處理能力。將12個(gè)裸晶(X-AI)堆疊在單一HBM封裝中,可實(shí)現(xiàn)超過(guò)1.5TB儲(chǔ)存容量和120TB/s處理吞吐量。 目前許多公司研究能提高處理速度和通訊吞吐量的技術(shù),當(dāng)半導(dǎo)體速度越來(lái)越快、效率越來(lái)越高時(shí),在元件之間傳輸數(shù)據(jù)的匯流排將成為瓶頸,因此這樣的技術(shù)將可讓所有元件一起加速。 臺(tái)積電、英特爾、鎧俠等公司都在研究光學(xué)技術(shù),以加快主機(jī)板內(nèi)的通訊速度,透過(guò)將部分AI處理從GPU轉(zhuǎn)到HBM,NEO Semiconductor可降低工作量,使效率遠(yuǎn)高于目前耗電的AI加速器。 |
上一篇: 中國(guó)稀土出口管制或在明年造成全球半導(dǎo)體生產(chǎn)延遲和成本上升 下一篇: 解讀十大原廠最新業(yè)績(jī)報(bào)告:汽車芯片遇冷,存儲(chǔ)芯片順風(fēng)飛揚(yáng) |