ある会社の会議で、担当者がAIの比較表を配った。
表の一列目には、AIの名前がパラメータの数の大きい順に並んでいた。
一番上のモデルに決まりかけた。そこで、経理の担当者が手を挙げた。
年間の利用料が、予算を超えていた。
なぜ、一番大きなモデルに決まりかけたのか。
大きなモデルは、費用と置き場所の壁に当たっている
予算を超えたのは、この会社だけの事情ではない。大きなモデルそのものが、壁に当たっている。
LLM（大規模言語モデル）は、規模を広げれば性能が上がるという前提で育ってきた。
その伸びが、鈍りはじめている。
最先端モデルの学習には、電力と機材で1,000万ドル以上かかるとも言われる。
2024年には、世界的なGPU（AIの計算に使う半導体）不足が起きた。価格は最大40%上がった。
数字は、いずれも2025年9月時点の情報である。
大きなモデルは、大量のGPUメモリを使う。社内の機械で動かすのは難しい。
社内で動かせなければ、データを社外に送ることになる。機密データを社外に送る不安は、医療や金融で導入の壁になっている。
大きさだけで選ぶと、費用と置き場所の両方で行き詰まる。予算の超過は、その入口にすぎない。
比較表に欠けていた物差し、SLMの正体
カラクリは単純だ。比較表の物差しが、大きさだけだった。
AIを選ぶ物差しは、大きさから、目的に合うかへ移りつつある。
パラメータとは、モデルが学習で調整する数のことだ。
パラメータが数百万から数十億の、小さめの言語モデルがある。SLM（小規模言語モデル）と呼ぶ。
スマートフォンで動くかを目安に、10億前後以下をSLMと呼ぶ見方がある。70億や130億のモデルをSLMと呼ぶ例もある。
境目の数は、見方によって幅がある。
SLMの強みは、効率だ。計算とメモリが少量で済む。
省電力の端末でも動く。データを社内に置いたまま処理できる。
大きなモデルが当たった二つの壁を、SLMは小ささで越える。
仕事を絞ると、小さなモデルで何が起きるのか
小さなモデルを賢くする技術も進んでいる。
知識蒸留は、大きなモデルの知識を小さなモデルに移す技術だ。量子化は、計算の桁を減らし、メモリの使用量を抑える。
LoRAは、モデル全体ではなく、ごく一部の小さな行列だけを学習させる。
医療、法務、金融、製造のように、専門の範囲を絞る。すると、小さなモデルでも必要な精度に届く。
NVIDIAは、多数のSLMが働き、必要な場面でだけLLMを呼ぶ構成を有望と見ている。
高度な推論は、LLMの持ち場。多くの定型の場面は、SLMの持ち場だ。
大きいモデルか、小さいモデルか。二択ではなく、持ち場の分け方の問題である。
経理の担当者が手を挙げる前に、任せる仕事、渡す情報、頼る範囲を書く
持ち場を分けるには、比べる前に物差しを決める。物差しは、自分の仕事の前提から生まれる。
任せる仕事、渡す情報、頼る範囲。三つを、先に一文ずつ書き出す。
三つが言葉になると、必要なモデルの大きさが決まる。手元で動かすか、クラウドで使うかも決まる。
次の文面のかっこの中を、自分の仕事に書き換えて使える。
任せる仕事：（例：契約書の条項を、社内の雛形と照らして差分を抜き出す）
渡す情報：（例：社内の雛形10本。社外へ送れるのは雛形だけです）
頼る範囲：（例：差分の候補を出すところまで。採否は法務の担当者が決めます）
お願い：この仕事に合うAIの規模と、置き場所（端末、社内サーバー、クラウド）の候補を、理由とともに並べてください。渡せる情報が社外に出せない資料なら、置き場所は社内に絞られる。頼る範囲が候補出しまでなら、大きさも絞られる。
比較表の一列目に、三行の前提を
比較表の一列目に三行の前提があれば、経理の担当者が手を挙げる前に、答えは出ていた。
拙著『ChatGPT 誰でも1時間でできる！ はじめてのGPTsのつくり方』は、自分用のAIアプリ（GPTs）をつくる実践書で、どこまで任せるかという設計の考え方は、目的特化型のAIを選ぶ土台にもなります。社内の導入方針や研修に落とし込むときは、AI導入方針・研修設計の整理もご覧ください。