モデル選びの基準が変わった — 大きさより「どこで動かすか」

業務で使うAIモデルの選定は、性能の順位から費用・応答時間・データの所在へ軸が移りました。SLM 業務活用をどの工程まで広げ、どこから大きなモデルを呼ぶのか。総務省の白書とIPAの調査をもとに、置き場所で決める判断の順序を整理します。

モデル選びの基準が変わった — 大きさより「どこで動かすか」 hero image

モデル選びの基準が変わった — 大きさより「どこで動かすか」

「結局、どのモデルが一番賢いのですか」。半年前まで、経営企画の方からの質問はここに集まっていました。いまは違います。検索窓に打ち込まれる言葉も、稟議で問われる論点も、費用・応答時間・データの所在という三つの条件へ移りました。

この変化は、モデルの優劣に関心がなくなったという話ではありません。同じ業務を、どこに置いて動かすかで、月々の費用も、現場が待たされる秒数も、データが社外を通るかどうかも変わる。その事実に、稟議を書く側が先に気づいたのだと私は見ています。

経営の相談で最初に確かめるのは、製品の話ではありません。どの業務を、どこで動かすつもりなのか。ここが決まっていない状態でモデルの比較表を眺めても、判断の材料は増えません。

AI モデル 選定 基準は、いま何で決まっているのか

業務で使うモデルの選定を実際に決めているのは、性能の順位ではなく、費用・応答時間・データの所在という三つの条件です。この三条件は、性能表とは別の答えを出すことがあります。

性能の順位は、測り方の条件に左右され、数か月で入れ替わります。発注の判断軸としては足場が弱い。対して三条件は、対象の業務さえ決まれば値がほぼ定まります。毎日何件流れるのか、誰が待っているのか、何が書かれたデータなのか——社内で答えられる問いばかりです。

この移り方は、公的な文書の構成にも表れました。総務省「令和8年版 情報通信白書」は、特集章の「最近の研究開発・社会実装動向」で、小規模言語モデル(SLM)を最初の項目として扱っています。特定製品の紹介ではなく、技術動向の一項目として位置づけられた、ということでしょう。

前提として、生成AIに触れた企業はもう珍しくありません。日本企業のうち何らかの業務で生成AIを利用していると答えた割合は86.4%に達しました。その内訳と、使っているのに成果が出ない構造は生成AI利用率86.4%の内訳を読むで扱っています。触れた企業が大半を占めた以上、次の差は置き場所の設計でつきます。

なぜ「大きいモデルほど良い」が業務では通らなくなったのか

業務で回っている処理の多くが、汎用の知識も高度な推論も要さない定型作業だからです。最高性能ではなく、その業務に足りる性能があればよい、という場面が実際には広く残っています。

情報処理推進機構(IPA)の「DX動向2026」(1,799社回答)を見ると、AI導入で得られた効果の内容は「業務が効率化したり迅速化した」が91.6%と突出しています。一方で「売上や利益が向上した」は3.9%にとどまりました。効果が実際に出ている場所は、いまのところ社内の反復処理の側です。

用途の偏りも同じ方向を指しています。情報通信白書によれば、日本で生成AIの活用が最も多かった業務類型は「議事録・メール作成補助」で約7割、効果を実感した割合もこの類型が約7割と、他より目立って高い結果でした。決まった形の入力を決まった形に変える仕事が中心にある、ということです。

こうした処理に最上位モデルを常時充てると、支払っているのは使わない能力の分になります。国立情報学研究所の佐藤一郎教授は、汎用LLMはコモディティー化が見込まれると指摘しています。汎用の性能そのものが差になりにくくなるなら、選定の軸は自然に別のところへ移ります。

大きなモデルが要らなくなったわけではありません。前例のない調査や長文の読み解きは、いまもそちらの独壇場です。問題は、その力をどの工程にまで常時張り付けておくかという配分のほうにあります。

言い換えれば、争点が「どれを買うか」から「どこに置くか」へ降りてきた、ということです。

SLM 業務活用は、どこまでできて、どこからできないのか

特定領域の定型処理は十分に担える一方、幅広い知識と込み入った推論は単体では届きません。この線引きを知らずに置き場所を決めると、動かしてから戻すことになります。

まず規模の話から。情報通信白書は、SLMに厳密な定義が統一されていない現状を認めたうえで、同節ではおおよそパラメータ数が百億程度までのモデルをSLMとして扱うと明記しています。海外のベンチマーク研究では70億以下、人工知能学会の論文では140億以下を扱う例もあり、幅があります。

できることの側は明快です。同白書はSLMの特徴として、パラメータ数が少なくカスタマイズが容易であること、特定分野に限定した学習によって軽量で高い精度を持つモデルを構築できること、計算量が抑えられるため計算資源や消費電力の制約がある環境でも利用でき、エッジデバイス上での実行に適していることを挙げています。

できないことの側も、同じ文書がはっきり書いています。パラメータ数が少ないぶん知識のカバー範囲や複雑な推論能力には限界があり、汎用的な知識や高度な推論が求められる用途ではSLM単体での対応に限界がある。そのため実務では、検索拡張生成(RAG)による外部知識の活用や、LLMとSLMを組み合わせた構成が有効なアプローチとして整理されています。

ここが実務にとっていちばん効く一文だと思います。選択は「小さいほうか、大きいほうか」ではありません。どの処理を近くの小さなモデルに任せ、どこから先を大きなモデルに渡すか——つまり配置の設計です。二者択一で考えているうちは、選定はいつまでも決着しません。

なお、SLM・大規模・推論モデルをどう組み合わせるかという種類の設計そのものはSLM・推論モデルで選ぶマルチモデル戦略で扱いました。ここでは、その組み合わせをどこで動かすかという一点に絞り、令和8年版の白書やIPAの調査、開発元の公式発表といった一次資料だけで読み直します。同じSLMという言葉でも、種類を選ぶ話と置き場所を決める話では、判断に要る材料が違います。

費用という条件は、モデル選びのどこに効くのか

一件あたりの単価よりも、処理の頻度と常時稼働の有無に効きます。月に数回動く処理では単価の差は誤差ですが、毎分動く処理では規模がそのまま運用費になります。

実測の例が公的な資料に載っています。総務省の「地域社会DX推進パッケージ事業」で、楽天モバイル・AWL・楽天ヴィッセル神戸の3社が神戸市のノエビアスタジアム神戸において実施した実証では、監視カメラの近くに置く「ファーエッジ」とそれらを束ねる「エッジサーバー」でエッジAIを構成し、エッジサーバーがSLMで情報を統合して要約と指示を生成し、警備員へ報告します。

この構成に期待が集まっている理由として、白書は二点を挙げています。通信の混雑に影響されないため迅速に情報をやり取りできること、そしてクラウドの高性能GPUを使用するより省電力・省コストであることです。常時映像を見続ける処理だからこそ、置き場所が費用に直結しました。

費用を読むときに、初期の導入額だけを見ると判断を誤ります。運用・保守・改修まで含めた総所有コストで比べる考え方は生成AIのTCOと投資判断で費目ごとに分解しました。モデルの置き場所は、この費目のうち推論にかかる継続費と運用の手間の両方を動かします。

人の費用も忘れられません。IPAの同調査では、AI導入・運用上の課題として「専門人材が不足している」が50.1%で最多でした。誰が面倒を見るのかが決まっていない構成は、料金表の上では安く見えても、二年目に費用が姿を変えて現れます。

手元に寄せるほど、この負担は自社側に寄ります。端末や機器の更新、モデルの入れ替え、動かなくなったときの一次対応——遠くに預けていれば相手の仕事だったものが、近くに置いた瞬間から自社の仕事になる。安さの根拠がどこから来ているのかは、契約書の前に確かめておきたいところです。

応答時間を条件に入れると、選択はどう変わるのか

待っているのが人や設備なのか、それとも誰も待っていないのかで、選択は割れます。同じ精度でも、待ち時間が業務の質そのものを決める工程があるからです。

白書はSLMの社会実装への期待として、スマートフォンやウェアラブル端末など個人が利用するデバイスに搭載することで、即時応答が求められるサービスや、プライバシーの保護が必要な利用シーンへの応用が想定されると整理しています。端末そのものの中でモデルを動かす形、いわゆるオンデバイスでの実行です。応答の速さが、機能ではなく前提として求められる領域がある、という見立てです。

現場を持つ業務では、この差が体感になります。作業者が端末の前で数秒待つ工程は、一日に何百回も繰り返されれば、それ自体が新しい待ち行列になる。神戸の実証で通信混雑の影響を受けない点が価値として挙がったのも、警備という即応が要る業務だったからでしょう。

逆に、夜間バッチの集計や、月次のレポート下書きでは、数秒どころか数分の差も業務に響きません。そういう処理まで手元に寄せると、設備投資だけが増えて見返りが薄くなります。応答時間という条件は、近くに寄せる理由にも、遠くに置いたままでよい理由にもなります。

判断に迷ったら、その処理を止めたときに誰の手が止まるかを見てください。手が止まる相手がいる工程は近くへ、いない工程は遠くのままで構いません。速さの投資は、待っている人がいる場所にだけ効きます。

同じ社内でも、この答えは部署ごとに割れます。だからこそ、全社で一つのモデルに揃えるという発想が、業務側から見ると窮屈に映るのでしょう。

データの所在は、なぜ選定条件の一つになったのか

日本企業が生成AIについて最も懸念しているのが、社内情報の漏洩だからです。どこで処理するかは、そのまま「データがどこを通るか」の決定になります。

情報通信白書の企業調査では、生成AIの活用に関して懸念されるリスクとして「社内情報の漏洩などのセキュリティリスクがある」を挙げた割合が日本で最も高く、次いで「出力結果の精度に問題がある」「著作権等の権利を侵害する可能性がある」と続きました。関心の順序が、精度より先に情報の行き先に向いています。

対策の側は、まだ文書の段階にとどまっています。同調査でリスク対策の取組状況を尋ねると、日本では「全社的な指針やガイドラインを整備している」が41.1%で最多でした。他の3か国では、企画・導入段階の専門的な審査体制や、導入後の定期的な評価・検証を挙げる割合が日本より高い傾向が見られています。

指針を配っても、データが実際にどの経路を通るかは変わりません。そこを動かせる数少ない設計判断が、処理をどこで走らせるかです。白書は、エッジデバイスでの利用は通信を必要としないため、個人情報などプライバシーの保護やセキュリティの観点でも期待が集まっていると述べています。

ただし、手元で動かせば安全という単純な話にはなりません。端末そのものの管理、持ち出しの制御、誰がいつ何を処理したかの記録は、置き場所を変えても別途要る仕事です。データが社外に出る地点を業務フロー上で特定し、そこに制御点を置く実務はAI業務自動化と個人情報保護法で扱いました。ここでは、モデルの置き場所がその制御点の一つになる、という関係だけを押さえておけば十分です。

業務の性質から、モデルの置き場所をどう決めるのか

頻度・遅延の許容・データの感度・正確さの要求という四点で読むと、置き場所はおおむね決まります。この四点は社内で答えが出せるので、ベンダーの説明を待たずに整理を始められます。

見る点近くの小さなモデルに寄せる条件遠くの大きなモデルを呼ぶ条件
頻度毎日・毎分の反復処理月次・随時の非定型作業
遅延の許容人や設備が待っている工程待ち時間が業務に響かない工程
データの感度個人情報・設計図・原価など社外に出せないもの公開情報や社外向けの素材
正確さの要求決まった様式の読み取り・分類・要約前例のない調査や長文の推論

四点の答えが割れたときは、データの感度を優先して読むのが実務的です。費用は後から交渉できますし、応答時間は運用で調整の余地があります。社外に出したデータだけは、後から取り戻せません。

もう一つ、四点のどちらに転んでも変わらない線があります。処理を任せる範囲と、人が確定を握る位置です。読み取りと下書きまでを機械に渡し、承認は担当者に残す。この線引きは、モデルの大きさや置き場所とは独立に、先に決めておくべき業務設計にあたります。

四点を並べてみると、多くの企業で近くに寄せる候補が一つか二つ見つかるはずです。全部を移す必要はありません。頻度が高く、待たれていて、データが社外に出せない処理——その重なりから始めるのが、最も説明のつきやすい一手になります。

日本の企業にとって、この基準の移動は何を意味するのか

汎用性能の競争から降りて、自社の業務に沿った使い方で差をつけられる、ということです。世界最大のモデルを持たない立場でも、置き場所と業務の設計で戦える領域が広がりました。

佐藤教授は、汎用LLMのコモディティー化を見込んだうえで、日本は領域特化型のAIに注力すべきだとしています。特に音声対応のAIや、製造現場のように市場が大きく、安全性が高く高品質な日本の業務の特性を活かせる分野への応用に力を入れるべきだという見方です。

具体例として同教授が挙げるのが、鉄道の「指さし確認」です。現状は実施者本人の確認にとどまりますが、AIを導入すれば、し忘れをAIが指摘できるようになる。こうした日本型の業務の仕方は海外では導入が進んでいないものも多く、AIで品質を高めた業務の仕方そのものを海外へ展開し、国際標準化を先導することが日本の勝ち筋になり得る、と整理されています。

構想の話ではなく、実物が出てきている点も見ておきたいところです。東京大学松尾研究室発のEQUESは、GENIAC第2期の採択テーマで開発した製薬業界向けの特化型モデル「JPharmatron-7B」を発表しました。医薬という、用語も規制も外部の汎用知識では埋めきれない領域から実装が始まっています。

Preferred Networksは、自動車や製造設備などエッジデバイス向けの軽量モデル「PLaMo Lite」を提供しています。2025年12月16日には、ドローンやロボット、自動車、監視カメラなどの自律稼働デバイスやオンプレミス環境といった、クラウド接続が難しい現場での利用を想定した「PLaMo 2.1-8B-VL」の開発を公表しました。想定されている置き場所が、そのまま日本の産業構造を映しています。

市場の側も動いています。白書が引用する民間推計では、日本のエッジコンピューティング市場規模は2025年に前年比14.0%増の127億ドル、2031年には261億ドルまで拡大すると見込まれています。佐藤教授は、SLMが動く必要があるデバイスとそうでないデバイスで二極化が進むとも指摘しており、置き場所の選択は今後さらに具体的になっていきます。

選定の前に、経営が決めておくこと

モデルを比べる前に、どの業務をどこに置くかの地図を先に描いてください。地図があれば比較は短く済み、なければどんな比較表も決め手になりません。

IPAの調査では、AI導入の効果について「期待以上」「期待どおり」と答えた企業は合計31.8%で、「一定の効果はあった」が50.6%と半数を占めました。効果は出ているが期待には届いていない、という層が最も厚い。その差を生んでいるのはモデルの賢さではなく、どの業務に、どういう置き方で入れたかのほうだと私は考えています。

もう一段の分かれ目は、答えさせて終わるのか、処理まで動かすのかです。ChatGPTは答えます。WindyFloは働きます。私たちがこの言葉を掲げているのは、下書きが速くなるだけでは受発注も承認も現場に残る、という一線を経営に意識してほしいからです。日本語で運用でき、基幹システムとつないで実行まで担う——設計思想としてそこを向いています。

始めるときの順序も、そう複雑ではありません。四点で候補を絞り、一工程だけ選び、費用と応答時間を一か月測る。割に合えば隣の工程へ広げ、合わなければ畳む。撤退と拡大の線を先に引いておくと、投資配分の議論が感情論から数字の話へ変わります。

モデルの世代交代はこれからも続きます。そのたびに選び直すのではなく、業務ごとの置き場所という地図を持っておけば、新しいモデルが出たときに「どこが置き換わるのか」だけを見ればよくなる。AI・DXの動向は本ブログで毎月追いかけていますので、社内の判断材料としてお使いください。

よくある質問

いま使っている大きなモデルの契約は、移行のあいだどう扱えばよいですか

すぐに切り替える前提では考えないほうが無難です。白書は効果創出のステップとして、まず比較的安価で導入しやすい汎用AIを社員の個人作業で活用することを組織的に浸透させ、その上で業務プロセス全体をAIを前提に変革していく段取りを示しています。汎用の側は当面、入口として残り続けるということです。注意が要るのはむしろ、社員が個人の判断でAIを使う「シャドーAI」で、入力した機密情報の流出などのリスクを孕むと指摘されています。

近くに置いたモデルは、誰が更新や入れ替えを担当するのですか

現場の部門と全社の推進部門で持ち分を分けるのが、先行例に共通する形です。白書がヒアリングした先進企業では、検討の起点を事業部門の現場のニーズに置きつつ、DX推進部門が技術的な助言やセキュリティ対策、効果測定、学習機会の設定といった伴走支援を担当していました。推進部門は全体最適を見据えた共通基盤の整備や効果測定も担うことが多いとされています。置き場所を手元へ寄せる判断は、この持ち分を決めてからのほうが安全です。

オンデバイスやエッジで動かすと、費用はどれくらい下がりますか

一律の削減率は示せません。神戸市での実証事例では、クラウドの高性能GPUを使うより省電力・省コストである点が期待として挙げられていますが、効き方は処理の頻度と常時稼働の有無に左右されます。月に数回の処理では差は出にくく、常時動く処理ほど差が開く、と考えてください。

置き場所の答えが部署ごとに割れたら、全社ではどこまで揃えるのですか

揃えるのは基盤とルールで、どの業務をどこに置くかは業務を知る部門に残すのが現実的です。白書のヒアリングでも、共通基盤の整備や部門横断の推進は全社側に置きつつ、検討の起点は事業部門の現場のニーズに置かれていました。あわせて、部門や職階によって参照すべきでない情報が出力されないよう、AIが参照するデータの範囲を絞る対策も挙げられています。銘柄を一つに統一することより、この範囲設定を揃えるほうが先に来ます。

一つの工程で試したあと、広げるか畳むかは何を見て決めますか

費用と応答時間の実測に加えて、効果を測る手順が社内に残ったかどうかを見てください。白書が紹介する日清食品グループの事例では、活用効果を見込める対象業務を部門ごとに選び、プロンプトのひな形を作り、効果を測定する取組を少しずつ社内展開した結果、社内の生成AI利用率が直近では7割を超えたとされています。広げる根拠になるのは一度うまくいったことではなく、次の工程でも同じ手順で測れることのほうです。

日本語での業務利用でも、小さなモデルは実用になりますか

日本語向けの軽量モデルは実際に提供が始まっています。Preferred Networksは自動車や製造設備などエッジデバイス向けの「PLaMo Lite」を提供し、クラウド接続が難しい現場を想定したモデルの開発も進めています。製薬業界向けの特化型モデルのように、業界に限った用途から実装が広がっている段階です。

出典

  • [1次]総務省「令和8年版 情報通信白書」(2026年7月24日公表)第Ⅰ部第2章第2節1「小規模言語モデル」— 定義(本節はおおよそ百億パラメータ程度までを対象)・特徴・限界・佐藤一郎教授(国立情報学研究所)の見解: https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r08/html/nd122110.html / 社会実装における期待(即時応答・プライバシー保護): https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r08/html/nd122120.html / 国際競争における日本の位置づけ(領域特化型・指さし確認・国際標準化): https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r08/html/nd122130.html / 研究開発動向(Preferred Networks「PLaMo Lite」): https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r08/html/nd122140.html / 社会実装等の動向(EQUES「JPharmatron-7B」、神戸市ノエビアスタジアム神戸でのエッジAI実証): https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r08/html/nd122150.html
  • [1次]総務省「令和8年版 情報通信白書」第Ⅰ部第2章第1節 — 生成AIの業務利用状況(日本86.4%、「議事録・メール作成補助」が最多で約7割): https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r08/html/nd121130.html / 懸念されるリスク及びリスク対策のための取組状況(「社内情報の漏洩などのセキュリティリスク」が最多、「全社的な指針やガイドラインを整備している」41.1%): https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r08/html/nd121140.html / AI導入・活用を効果的に進めていくために重要となる要素(先進企業の組織体制 — 事業部門の現場を起点とするDX推進部門の伴走支援・共通基盤の整備、参照データの範囲を絞る対策): https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r08/html/nd121410.html / AI導入・活用による効果創出のステップ(汎用AIの組織的浸透から業務変革へ、「シャドーAI」のリスク、日清食品グループの社内展開と生成AI利用率7割超): https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r08/html/nd121420.html
  • [1次(再引用)]総務省「令和8年版 情報通信白書」第Ⅱ部第1章第8節3「エッジコンピューティング」— 日本市場規模2025年127億ドル(前年比14.0%増)、2031年261億ドルの予測(出典は株式会社マーケットリサーチセンターの推計を白書が引用): https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r08/html/nd218300.html
  • [1次]独立行政法人情報処理推進機構(IPA)「DX動向2026 広がるAI導入、DXは変われるか」(2026年7月30日公表、1,799社の有効回答)— AI導入効果(期待以上13.7%+期待どおり18.1%=31.8%、一定の効果50.6%)、効果の内容(業務効率化・迅速化91.6%、売上や利益の向上3.9%)、AI導入・運用上の課題(専門人材の不足50.1%): https://www.ipa.go.jp/digital/chousa/dx-trend/dx-trend-2026.html
  • [1次]株式会社Preferred Networks「GENIAC第3期で自律稼働デバイス向けの軽量な大規模視覚言語モデルPLaMo 2.1-8B-VLを開発」(2025年12月16日)— ドローン・ロボット・自動車・監視カメラなどの自律稼働デバイスやオンプレミス環境等、クラウド接続が難しい現場での利用を想定: https://www.preferred.jp/ja/news/pr20251216
  • 本稿の置き場所の判断軸(頻度・遅延の許容・データの感度・正確さの要求)は、ハマダラボ(HAMADA LABS Japan)による日本企業の業務自動化支援での一次観察に基づく整理であり、特定企業の実在事例ではありません。