「半導体の根源的競争力回復の号砲」 サムスン、3D HBMで勝負　性能最大8倍

〈テックX113〉

サムスン電子、垂直積層の3D HBMを公開

zHBMは性能最大8倍、積層限界を突破

HBM5比で電力効率3倍、熱抵抗は半分以下

データ移動距離を縮め、ボトルネック解消

人工知能（AI）半導体のメモリー競争が、「より速く」から「より近く」へ進化している。サムスン電子は、AIアクセラレーターの直上に高帯域幅メモリー（HBM）を垂直に積み上げる次世代3次元（3D）メモリーアーキテクチャー「zHBM」と、400層超の超高積層NANDフラッシュ「zNAND-O」を公開した。

「HBMは横ではなく上」 サムスンが「Z軸」に活路

業界によると、サムスン電子は8月8日、米カリフォルニア州サンタクララのサンタクララ・コンベンションセンターで開かれた世界最大級のメモリー・ストレージ産業の展示会・会議「FMS 2026」で、次世代3Dメモリーアーキテクチャーの「zHBM」と「zNAND-O」を初めて披露した。

高性能コンピューティング（HPC）とAIインフラ需要の拡大に対応し、AIシステムの性能と電力効率を最大化する狙いがある。従来は横方向と縦方向の平面空間を使う2.5Dパッケージングが主流だったが、今回は高さ方向のZ軸まで活用する3Dパッケージングへ踏み込んだ。名称に「z」を入れたのも、このためだ。

学界では、zHBMを従来の半導体配置を変える革新技術とみている。これまでHBMは、画像処理半導体（GPU）などのAIアクセラレーターの横に配置され、データをやり取りしてきた。これに対しzHBMは、AIアクセラレーターの直上にメモリーを垂直に積み上げる構造を採る。

GPUは、演算に必要なデータをメモリーから取り込むのに時間がかかると、システム全体の処理速度が低下する。高速道路を走る車がいくら速くても、料金所で詰まれば到着が遅れるのと同じだ。AI半導体では、メモリーとGPUの間のデータ移動が新たなボトルネックとして浮上している。

HBMも、もともとはこの問題を解決するために開発された。複数のDRAMを垂直に積み重ね、シリコン貫通電極（TSV）と呼ぶ微細な垂直通路で結ぶことで、一般的なDRAMよりはるかに多くのデータを一度にやり取りできるようにしたメモリーだ。ただ、HBMはGPUの横に並べて配置し、両チップを接続する構造のため、データの通り道を広げるには限界があった。

zHBMはこの構造を逆転させた。従来のHBMがGPUの横に倉庫を建てる方式だとすれば、zHBMはGPUの真上に倉庫を積み上げる方式だ。GPUが必要なデータを取りに行く移動距離を大幅に縮めた。

サムスンが重視するのは、この短くなったデータ経路だ。データの移動距離が短くなれば、信号損失を抑えられる。データ転送に要する電力も下げやすい。メモリーとアクセラレーターの間をより高密度につなげば、データ処理量の拡大も可能になる。

サムスン電子は、zHBMの性能がHBM5比で最大8倍に高まり、電力当たりの性能は最大3倍に向上するとみている。熱抵抗もHBM5の半分以下に下げられると説明した。単にHBMの速度を高めるのではなく、メモリーと演算装置の接続構造そのものを変えることで、性能と電力効率を同時に引き上げる考えだ。

ここで重要になるのがハイブリッド銅ボンディング（HCB）だ。HBMをアクセラレーターの上に多層で積むには、各DRAMを極めて高密度に接続しなければならない。従来はマイクロバンプと呼ぶ小さな突起でチップ同士をつないでいた。

HCBは銅を使ってチップ表面を直接接続する技術だ。接続部分をさらに小さく、高密度にできるため、同じ面積でもより多くのデータ通路を確保しやすい。従来方式が建物同士を小さな橋でいくつもつなぐ発想だとすれば、HCBは2つの建物をほぼ接する形で大量の通路を設けるイメージに近い。

課題は熱だ。半導体では、熱をどれだけ素早く逃がせるかが性能限界を左右する。温度が上がると、チップが安定動作を維持するために処理速度を落とす「スロットリング」が起こりうるためだ。HBMをGPUの上に積めばデータ移動距離は縮まる一方で、放熱は難しくなる。GPU自体が多くの熱を出すうえ、その上に高速動作するメモリーまで載せる必要があるからだ。

熱いストーブの上に、さらに別のストーブを重ねるようなものだ。サムスン電子は、熱を別経路で素早く外部へ逃がす放熱構造によって、この問題を解決する構想を示した。HBMとAIアクセラレーターの間に熱の移動経路を確保し、3D積層で生じる熱を効率的に放出する考えだ。zHBMの熱抵抗は、HBM5比で半分以下に下げられる見通しだ。

AI半導体では、データ移動の重要性が一段と高まっている。AIモデルの規模が拡大し、メモリーから取り出すべきデータが急増しているためだ。とりわけ推論では、モデルの過去の文脈を保持する「KVキャッシュ」が増える。メモリー容量や帯域幅だけでなく、データをいかに少ない電力で移動させるかも重要な論点になっている。このため、HBM競争の評価軸も変わる可能性が高い。

この問題に詳しいあるエンジニアは、「これまではDRAMの微細工程、積層段数、TSV、帯域幅、歩留まりが核心だったが、今後は3Dパッケージング、HCB、熱管理、電力供給、ロジック工程、AIアクセラレーターとの共同設計がそろって重要になる」と語った。そのうえで「サムスン電子はメモリー、ファウンドリー（半導体受託生産）、先端パッケージングをすべて持つ。AIアクセラレーターとメモリーを最初から一体で設計し、最適化する『ワンストップ』の競争力で競合を圧倒する」と強調した。

NANDも上に積む 「zNAND-O」公開

サムスン電子が今回あわせて公開したNANDソリューションも注目される。とりわけzNAND-Oは、機器上でAIを動かす「オンデバイスAI」に最適化した高性能NANDだ。半導体チップに微細な穴を開け、チップの上下端を電極で結ぶTSV技術を活用し、リアルタイムの超高速データ処理を支える。

サムスン電子は、垂直に400層以上を積み上げた第10世代V-NAND（V10 BV-NAND）も公開し、NAND技術の主導権を固めた。V10 BV-NANDには、2枚以上のウエハーを垂直に貼り合わせるウエハーボンディング技術と、3つのNAND束をつなぐ3スタック技術を適用した。これにより、前世代のV9に比べ、同じ面積に保存できるデータ量を約58%増やし、データの読み書き性能と速度も高めたと説明した。

このほか、新たな熱管理技術「ヒドゥンパスブロック（HPB）」を適用したHBM5の模型や、メモリー内部で直接演算をこなす低消費電力ダブルデータレート（LPDDR）5Xベースのプロセシング・イン・メモリー（PIM）なども順次披露した。高性能コンピューティングとAIデータセンターに最適化した次世代メモリー・ストレージ製品群だ。

サムスン電子の内部事情に詳しい関係者は、「今回の技術発表は、チョン・ヨンヒョン副会長兼デバイスソリューション（DS）部門長が2024年に強調した根源的競争力回復の号砲だ」と述べた。

カン・ギョンジュ記者 qurasoha@hankyung.com