会議で、担当者が性能の比較表を映した。GPUとTPUの、どちらが速いかの表だ。
議論は三十分続いた。
一人が尋ねた。「TPUは、うちで買えるのですか」。
三十分の比較表は、この問いに一行も答えていなかった。
では、三十分の速さ比べは、何を比べていたのか。
TPUの正体は、Googleが深層学習のために作ったチップだ
パソコンの部品の話でよく聞くのは、GPUのほうだ。TPU（Tensor Processing Unit）は、Googleが開発した、ディープラーニングの計算に特化したプロセッサである。
狙いは、ニューラルネットワークの中心にある、大規模な行列演算を速く処理すること。
Googleのジョッピらは、2017年の論文でTPUの性能を公表した。TPUは2015年から、Googleのデータセンターで動いていた。
論文が測ったのは、学習を終えたモデルを動かす推論の処理だ。同じ時期のGPUやCPUと比べ、TPUは平均で約15倍から30倍速かった。
電力あたりの性能は、約30倍から80倍高かった。
TPUが得意とする範囲は、AIの計算に絞られる。
GPU（Graphics Processing Unit）は、もともと画像を描くための処理装置だ。多数のコアで、大量の計算を同時に進める。
GPUの使い道は、動画編集、科学計算、ディープラーニングへと広がった。
GPUは、製品として買える。TPUは、主にクラウドで借りて使うチップである。
冒頭の問いの答えは、ここにある。TPUは、多くの会社にとって買うものより借りるものだ。
世間は二つを、性能を競うライバルとして並べがちだ。生まれも手に入れ方も違う二つは、同じ棚に並ぶ商品とは別物である。
比較表に載らない三つの前提が、選択を決める
三十分の表が決めなかったのは、自社がどこでどう計算資源を手に入れるかだった。
TPUは、TensorFlowやPyTorchなどの機械学習のフレームワーク（開発の土台となる道具）を通して使うのが基本だ。
モデルを作る人の多くは、GPUを使うときもフレームワークを通している。コードの上では、チップの違いが設定の差として現れることが多い。
GPUは、製品として買うことも、クラウドで借りることもできる。幅広いソフトウェアが、GPUに対応している。
AI以外の計算も、GPUなら同じ機材で回せる。
TPUは、主にGoogle Cloudなどのクラウドで借りる。使うときは、対応するフレームワークを通す。
利用者が選ぶ項目は、手に入れ方、使う道具立て、AI以外の計算の三つ。三つとも、性能の比較表の外にある前提だ。
チップの効率の差が直接の論点になるのは、自社で大きな学習を回す研究組織である。
前提が空白のままでは、AIも速さの一般論を返す
AIに比較を頼んでも、同じ落とし穴が待つ。前提が空白のまま頼むと、返ってくるのは速さの一般論だ。
三十分の会議を、AIとの対話でもう一度繰り返すことになる。
立つ場所は、三行で書ける。借りる側か持つ側か、データのあるクラウド、手元のコード。
次のプロンプトのかっこの中を、自分の状況に書き換えて使える。
GPUとTPUを、（例：社内の需要予測モデルの学習）に使う前提で比べてください。
立場：（例：計算はクラウドで借りる側です）
今のクラウド：（例：データと業務はGoogle Cloudにあります）
手元のコード：（例：PyTorchで書いています）
AI以外の計算：（例：同じ機材で、在庫のシミュレーションも回したい）
お願い：手に入れ方、道具立て、AI以外の計算の三つで、選択肢ごとに比べてください。あの三十分に要った一行
「TPUは、うちで買えるのですか」。三十分後に出た問いが、最初に出るべき問いだった。
あの三十分に要ったのは、速さの表より、自社は借りる側か持つ側かの一行だった。
この記事の考え方は、拙著『ChatGPTではじめるAI株式投資』の「はじめに」のうち「なぜ勉強熱心なあなたが株式投資で勝てないのか」に書きました。読むと、ニュースを良い知らせと受け取った前提を、自分のものさしとして書き出せるようになります。
情報を集めるほど、判断がぶれるのはなぜか。
『ChatGPTではじめるAI株式投資』
成果を分けるのは、投資の軸の有無。AIを予言者ではなく壁打ち相手にして、自分の価値観を芯、軸、ルールの三段で言葉にする本です。
読み終えたとき、手元に残るもの
- やらないことまで書いた、自分の投資の軸
- スクリーニング、売買、ポートフォリオの三つのルール
- AIの知ったかぶりを見抜く1分チェック
- 失敗を次の判断に変える感想戦
本書は投資助言を行いません。特定の銘柄を勧める本ではありません。