台灣新聞通訊社-輝達秀未來AI晶片設計版本 矽光子扮要角

輝達未來的AI晶片設計,要重用矽光子。圖/路透

美國科技新聞網站報導,繪圖處理器(GPU)領導大廠輝達(Nvidia)在最近召開的2024年國際電子元件會議(IEDM)上,展示了輝達未來的AI晶片設計版本,新版晶片提議整合矽光子(SiPh)做為I/O零組件。這代表跳出傳統連結技術的重大改變。

傳統I/O(輸入/輸出)連結技術的效能受限於銅本身的物理特性。

輝達晶片新架構,以一種獨特方式垂直堆疊多片GPU晶片塊(tile),使用12個矽光子元件做為晶片連結器。每片GPU晶片塊上有三個連結器,一層組合裡有堆疊四片GPU晶片塊。

矽光子元件能優化GPU晶片塊之間的資料流動,對於改善擴展性和效能表現,至關重要。

輝達未來AI晶片的設計也標榜先進3D堆疊DRAM,每片GPU晶片塊有六個記憶單元,可以提供細密的記憶取用,顯著增加頻寬。堆疊起來的DRAM有直接的電子連結至GPU晶片塊,與超微(AMD)的3D V-Cache技術類似,但應用規模較大。

輝達在報告中提到,矽光子I/O元件的更大範圍整合,面臨挑戰。因為大幅應用的話,輝達每個月就需要超過100萬組矽光子元件產能供應,才能讓這樣的設計商業上可行。

溫度控制是另一個重大課題。多層堆疊的GPU設計必須搭配複雜的冷卻方法,現有的技術還不能完善處理。輝達表示,正積極努力研究散熱管理的全新解決方案,商業化預期需要一段時間,可能介於2028年到2030年之間。

2024/12/12 15:38

轉載自聯合新聞網: https://udn.com/news/story/6811/8421427?from=udn-ch1_breaknews-1-99-news