この項目で混ざったもの
ハード側GPUに行列計算の専用回路を640個搭載ソフト側CUDA 9やcuDNNがその回路を呼び出す
2017年5月10日、NVIDIAは新しいGPU「Tesla V100」を発表しました。プレスリリースによると、トランジスタは210億個を超え、「Tensor Core」を640個備え、深層学習の性能は120テラフロップス（1秒に120兆回の計算）です。Tensor Coreは、AI向けの処理を速めるためのものと説明されています。メモリは毎秒900ギガバイトのHBM2で、前の世代より帯域が50%多いとも書かれています。
Voltaのホワイトペーパーによると、Tensor Coreは4×4の行列AとBを掛けて行列Cを足す計算を、1つの回路で行います。AとBは16ビットの小数、足し合わせる行列と結果は16ビットか32ビットで、16ビットの入力を32ビットで蓄える使い方もできます。1個で1クロックに積和算64回を行い、SM（GPUの計算の区画）ごとに8個、V100全体では640個です。ホワイトペーパーでは、性能は125 Tensor TFLOPSとされています（プレスリリースの120とは数字が異なります）。同じ資料は、Pascal世代のP100の通常の32ビット演算と比べ、学習で最大12倍のピーク性能になるとしています。
ソフトも合わせて変わりました。CUDA 9は、Tensor Coreを使う行列演算を、プログラムから呼び出す機能として提供します。cuBLASやcuDNNといったライブラリも更新され、Caffe2やMXNetなどのAI用フレームワークでも対応が進められていると、ホワイトペーパーは書いています。プレスリリースも、CUDA、cuDNN、TensorRTがVoltaに合わせて最適化されると書いています。
プレスリリースは、深層学習が処理能力への尽きない需要を生んでいると書いています。同社はこの回路を、CUDAコアと同じ「統一されたアーキテクチャ」に収めたとも述べています。この行列の回路は、次の項目のTransformer EngineでHopperのTensor Coreにも受け継がれます（Hopperの専用Tensor Coreと書かれています）。
- 発表日
- 2017年5月10日
- トランジスタ数
- 210億個超
- Tensor Coreの数
- 640個（SMあたり8個）
- 深層学習の性能
- 120テラフロップス（プレスリリース）／125 Tensor TFLOPS（ホワイトペーパー）
確認できていない点
- プレスリリースとホワイトペーパーで性能の数字（120／125）が異なる理由（測定条件の違いと思われるが確認していない）
- 次のHopperのTensor CoreがVoltaの回路を受け継ぐという関係を述べた一次情報は確認していない（項目をつなぐ編集上の文）
出典
- NVIDIA Launches Revolutionary Volta GPU Platform（NVIDIA ニュースルーム）
- NVIDIA Tesla V100 GPU Architecture（Volta ホワイトペーパー、NVIDIA）
2026年10月18日に、上の出典（会社・研究機関の公式の資料と原著論文）を読んで確かめました。製品の仕様や提供状況は変わることがあります。この記事は、製品を試した記録ではありません。