Google以Gemini將晶片布局作業從數週縮短至數小時

Google表示，運用Gemini與Google DeepMind的AlphaChip，已將自家晶片的布局設計時間從數週縮短至數小時，並公布兩款第八代TPU系統。

Google在10日發布的官方公告中表示，正將Gemini與Google DeepMind的AlphaChip用於新一代硬體開發。新公布的系統為TPU 8tx與TPU 8i Max。

晶片布局是指在矽晶圓上安排數十億個電晶體的位置。Google所說的數週縮短至數小時，指的是這個階段所需的時間；公司也區分指出，晶片設計本身仍需數年。

這兩款產品不是採用新矽晶片，而是以既有TPU晶片組成的系統。晶片負責運算，系統則會整合晶片周邊的網路、儲存裝置等元件。

Google表示，調整晶片周邊的記憶體、網路與安全配置，可打造符合特定工作的系統。公司指出，這種方式能將專用系統的提供時間縮短至數月，而非數年。

Google表示，受到高度監管產業的客戶需要資料保護功能，企業則希望AI模型能處理更長的上下文。TPU 8tx與TPU 8i Max分別以安全性和大容量上下文處理為設計重點。

TPU 8tx是用於機密推理的系統，面向需要處理敏感資料的工作。它採用與TPU 8t相同的矽晶片，並設計成可在執行期間保護及隔離資料與模型權重。

機密運算著重於在資料由電腦處理時仍予以保護。一般而言，資料儲存或經網路傳輸時會加密，但進入處理階段後，資料會在記憶體中解密。

Google將TPU 8tx定位為供受監管產業與政府機構使用的系統，可同時處理敏感資料與自有模型，也支援小規模訓練工作。

TPU 8i Max則將兩顆TPU 8i晶片整合在同一封裝中。Google表示，相較TPU 8i，這款系統的運算能力、晶片內部記憶體（SRAM）以及高頻寬記憶體（HBM）頻寬都提升至兩倍。

增加記憶體與頻寬，是為了擴大AI模型一次能參考的上下文範圍，應用情境包括長篇文件、大型程式碼庫，以及數小時長的影片等需要一次處理大量資訊的工作。

Google在4月的Google Cloud Next活動中，公布用於大型模型訓練的TPU 8t，以及用於即時推理的TPU 8i。這兩套系統與此次新增的TPU 8tx、TPU 8i Max共同構成第八代產品線。

Google列出的相較前一代效能數據為：TPU 8t訓練效能最高達2.7倍，TPU 8i的推理性價比提升80%。這些數據不代表新公布的TPU 8tx與TPU 8i Max效能。

Google表示，這是公司首次在一年內推出四款TPU系統。本刊先前報導過Google公布兩款分別面向機密推理與長上下文處理的TPU系統。

TPU除了供Google訓練內部模型，也提供給Google Cloud客戶及自行營運資料中心的客戶使用。Google表示，TPU客戶約有100家，包含研究機構、交易公司、零售業者與大學等。