11 分で読了
1 views

AM-Thinking-v1:32Bスケールで推論の限界を押し広げる

(AM-Thinking-v1: Advancing the Frontier of Reasoning at 32B Scale)

さらに深い洞察を得る

AI戦略の専門知識を身につけ、競争優位性を構築しませんか?

AIBR プレミアム
年間たったの9,800円で
“AIに詳しい人”として
一目置かれる存在に!

プレミア会員になって、山ほどあるAI論文の中から効率よく大事な情報を手に入れ、まわりと圧倒的な差をつけませんか?

詳細を見る
【実践型】
生成AI活用キャンプ
【文部科学省認可】
満足度100%の生成AI講座
3ヶ月後には、
あなたも生成AIマスター!

「学ぶ」だけではなく「使える」ように。
経営者からも圧倒的な人気を誇るBBT大学の講座では、3ヶ月間質問し放題!誰1人置いていかずに寄り添います。

詳細を見る

田中専務

拓海さん、最近の論文で「AM-Thinking-v1」ってモデルが話題だと聞きました。正直、うちみたいな製造業の現場にどう関係するのかサッパリでして、要点を教えてくださいませんか。

AIメンター拓海

素晴らしい着眼点ですね!大丈夫、一緒に整理しましょう。結論から言うと、AM-Thinking-v1は『中規模の密結合(dense)モデルでも高度な推論力を引き出せることを示した』点で重要です。要点を三つにまとめると、(1) オープンソース基盤で作られている、(2) 32Bパラメータ規模でも数学やコードの問に強い、(3) 実運用の現実性が高い、です。

田中専務

オープンソースで、32Bって言われてもピンと来ません。うちが投資する価値があるかどうか、運用コストや効果の面で教えてください。

AIメンター拓海

いい質問です!まず『32B』はパラメータ数の目安で、規模が大きいほど理論的には表現力が増しますが、コストも上がります。ここで重要なのは、AM-Thinking-v1は『中くらいの規模で十分高い性能を出す設計』であり、クラウド費用や運用しやすさとのバランスが取りやすいという点です。要点を三つで示すと、初期コストが巨大な超大規模モデルより安く、ファインチューニングで自社データ適応しやすく、既存のオンプレ/クラウド混在運用にも馴染む点です。

田中専務

技術的な工夫は具体的に何をやっているのですか。これって要するに32B規模の中くらいのモデルをうまく調教すれば大きなMoEを使わなくても高い推論力が出せるということ?

AIメンター拓海

その通りです!一言で言えば『ポストトレーニングの作り込み』が鍵です。具体的には、ベースにしたQwen2.5-32B(Qwen2.5-32B)を出発点に、データの前処理、正解データの厳密な検証、教師あり微調整(Supervised Fine-Tuning, SFT – 教師あり微調整)と強化学習(Reinforcement Learning, RL – 強化学習)を組み合わせて推論力を引き出しています。要点は三つで、データ品質、学習手順の設計、そしてオープンな再現性です。

田中専務

なるほど、データの作り込みと手順ですね。実業務での具体的効果、例えば不良検出や工程改善の精度向上に直結するのでしょうか。

AIメンター拓海

期待し得ます。数学やコード生成で高得点を出しているというのは、論理的な推論や手順生成の精度が高いことを意味します。製造業では、原因分析や手順最適化、報告書生成など『論理的に整った出力』が求められる場面で威力を発揮します。要点を三つにまとめると、パターン認識だけでなく論理構築が改善され、説明可能な出力が出やすく、カスタムデータでさらに精度が伸びる点です。

田中専務

導入のリスクや課題は何でしょうか。データの品質や安全性の話、あと人手との役割分担が心配です。

AIメンター拓海

重要な視点です。リスクとしては、(1) モデルが誤った結論を自信ありげに出す「ハルシネーション」、(2) 特定業務に未調整のままだと性能が十分でない点、(3) ツール連携や関数呼び出し(function-calling)などの機能が不足している点が挙げられます。対策としては、運用前に小さなパイロットで評価軸を決め、人が最終判断する運用ルールを設け、段階的に機能を拡張することが現実的です。要点は三つ、検証→人間の最終確認→段階的導入です。

田中専務

最後に、うちの現場でまず何から手を付けるべきか、現実的な最初の一歩を教えてください。

AIメンター拓海

大丈夫、必ずできますよ。まずは現場で頻繁に発生する判断・書類作成・原因分析の一つを選び、100件程度の実データでモデルの応答を検証することを勧めます。要点を三つにすると、(1) 小さく始めて、(2) 評価基準を明確にし、(3) 人と機械の責任分界を決める、です。これでリスクを抑えつつROIを測れますよ。

田中専務

分かりました。要するに、小さく試して評価を固めてから本格展開する、ということですね。では私の言葉で整理します。AM-Thinking-v1は「オープンな32B規模の密モデルを丁寧に調整することで、大規模MoEに近い推論力を比較的低コストで得られる」モデルで、うちではまず一つの現場業務で小さく試し、評価と人間のチェックを組み合わせて導入を進めれば良い、ということでよろしいですか。

AIメンター拓海

その通りです!素晴らしい整理ですね。現場の声を拾いながら段階的に進めれば、必ず価値が見えてきますよ。


1.概要と位置づけ

結論を先に述べる。本研究は「AM-Thinking-v1」という32Bパラメータの密結合(dense)言語モデルを提示し、中規模モデルでも高度な推論能力を発揮できることを示した点で大きく貢献する。従来、高度な推論力はMixture-of-Experts(MoE、専門家混合モデル)のような巨大モデルに依存するという印象が強かったが、本研究はオープンソースの基盤と綿密なポストトレーニング設計で同等に近い性能を達成している。

まず技術的には、ベースにQwen2.5-32Bを用い、データの前処理と正解データ検証、教師あり微調整(Supervised Fine-Tuning, SFT – 教師あり微調整)および強化学習(Reinforcement Learning, RL – 強化学習)を組み合わせる手法を取っている。これにより数学的問題解決(AIME)やコード生成(LiveCodeBench)で高スコアを出し、同サイズの公開モデルの中で先行する性能を示した。

ビジネス上の位置づけとしては、完全な大規模モデルに頼らずに運用コストと導入現実性を両立させる「現場寄りの高性能モデル」である。オンプレミスや限られたクラウド資源での展開が想定可能で、特に中堅企業や現場主導のPoC(概念実証)に適する性質を持つ。

またオープンソースでモデルと手法が公開されている点は、カスタム適応や透明性確保を商用用途で実施する際のメリットが大きい。閉じた巨艦モデルに比べ、データガバナンスやプライバシー管理の制御がしやすい点も見逃せない利点である。

総じて、本研究は「現実的な運用と高い推論性能を両立する中規模モデルの設計と運用指針」を示し、研究と実務の橋渡し役を果たす可能性が高い。

2.先行研究との差別化ポイント

先行研究では、大規模性やMoE(Mixture-of-Experts、専門家混合モデル)といったアプローチが推論力向上の常道とされてきた。MoEは多数の専門サブネットを用いて表現力を高めるが、通信コストや実運用の複雑さ、専用ハードウェア依存といった課題を抱える。これに対しAM-Thinking-v1は密結合モデルでありながら、同等レベルの推論力を目指す点で差別化される。

差別化の核心はデータと学習プロセスにある。単にモデルを大きくするのではなく、学習に用いるクエリの設計、データの精査、正答の検証、SFTとRLの組合せといったポストトレーニング工程を丁寧に設計することで、32Bという実用的な規模で高性能化を実現した。言い換えれば、設計の質で量を補った。

また公開性と再現性も重要な差別化要素である。オープンソースの基盤モデルを使い、用いたクエリや手法を公開することで、コミュニティによる検証や改良が容易になる。これは商用閉鎖モデルと異なり、導入企業側が独自調整しやすいメリットを生む。

さらに、評価ベンチマークの選定も差別化を支える。数学コンペ形式のAIMEやコード生成のLiveCodeBenchといった「推論力を厳密に測る課題」で高得点を示した点は、単なる生成品質の改善を越えた実質的な能力向上を示す重要な証拠である。

総合すると、本研究は『規模の大小に依存せず、設計とデータ品質で推論力を引き出す』というパラダイムを示し、実務導入を視野に入れた点で先行研究と明確に異なる。

3.中核となる技術的要素

中核技術は三つに集約される。第一にベースモデルの選定だ。Qwen2.5-32Bを起点にすることで、十分な基礎性能と実運用上の扱いやすさの両方を確保した。第二にデータ処理と正解検証の高度化である。単純な大量データ投入ではなく、問題ごとの正答の確度を厳密に検証したデータを用いることで学習効率と推論品質を高めた。

第三に学習フレームワークの工夫だ。教師あり微調整(SFT)で基礎的な出力品質を整え、続いて強化学習(RL)で望ましい回答構造や推論プロセスを強化する二段階アプローチを採用している。特にRLの設計は、単なるスコア最適化ではなく、回答の一貫性や論理性を重視する報酬設計がなされている点が特徴的である。

これらを通して得られる効果は、単なる表面的なテキスト生成の改善に留まらず、論理的推論や手順生成、コードの正確性向上といった「実務上有用な能力」の向上である。実運用ではこの点が価値に直結する。

最後に実装面では、モデルのオープン化によりカスタムデータでの追加学習や安全性評価をユーザー側で実行可能にしている点が、商用導入を念頭に置いた重要な技術要素である。

4.有効性の検証方法と成果

本研究は複数ベンチマークを用いて有効性を示している。代表的な評価にはAIME2024、AIME2025(数学コンテスト形式)とLiveCodeBench(コード生成評価)があり、AM-Thinking-v1はそれぞれ高得点を記録した。これらのベンチマークは単なる文章生成ではなく、論理的思考や手順の正確さを測る設計であり、モデルの実践力を示す指標として信頼性が高い。

具体的にはAIME2024で85.3、AIME2025で74.4、LiveCodeBenchで70.3というスコアを示し、同規模の公開密モデルを上回り、一部のより大きなMoEモデルに匹敵する結果を出している。これにより『中規模でも工夫次第で高性能が得られる』という主張に実証的裏付けが付いた。

検証手法としては、データの前処理や正答検証過程も公開し、結果が単独チューニングによる一過性の改善ではないことを示した点が評価できる。加えて、再現可能性を重視するために学習クエリや設定の透明化が図られている。

ただし現状は構造化関数呼び出し(function-calling)やマルチモーダル入力への対応が限定的で、エージェント的な応用やツール連携の面では課題が残る。これらは今後の実務適用で重点的に検証すべき点である。

5.研究を巡る議論と課題

議論の焦点は二点ある。第一に『モデル規模と実用性のトレードオフ』である。AM-Thinking-v1は実用的な規模で高性能を実現したが、依然として特殊なタスクやツール連携では大型モデルの優位性が残る可能性がある。したがって用途に応じたモデル選択の判断基準が重要となる。

第二に『安全性と信頼性』の問題である。モデルは高い推論力を示す反面、誤った結論を確信を持って出すリスク(ハルシネーション)が残り、特に業務判断に直結する場面では人間による最終チェックが不可欠である。これに対応する運用プロセスと評価基準の整備が課題である。

また、オープンソースモデルゆえのカスタム改修や継続的な評価の手間、及びデータガバナンスの責任所在の明確化も議論となる。企業は内部で評価体制を整える必要があり、外部パートナーとの協業も一手となる。

最後に、研究の適用範囲を広げるにはマルチモーダル対応や関数呼び出し機能の強化が求められる。これらが実現すれば、より自動化されたエージェント系の業務支援が可能になり、現場での応用範囲が大きく広がる。

6.今後の調査・学習の方向性

研究の次の段階としては、第一に関数呼び出しやツール連携の実装を進め、モデルをエージェント型のワークフローに統合することが重要である。第二にマルチモーダル入力(画像やセンサーデータ)への対応を進めれば、現場の検査や異常検出などで利用価値が高まる。第三に運用面では、小規模なPoCでの評価フレームを標準化し、ROIの測定方法を確立することが企業導入の鍵となる。

検討すべき具体的方法としては、自社データでのSFT実験、評価基準のKPI化、そして段階的なRL調整による性能改善のトレースが挙げられる。これにより技術的優位性がどの程度現場の成果に転化するかを定量的に示せる。

最後に検索に使える英語キーワードを列挙する。AM-Thinking-v1, reasoning 32B, Qwen2.5-32B, supervised fine-tuning, reinforcement learning, AIME benchmark, LiveCodeBench。これらを手がかりに文献や実装例を探すとよい。

会議で使える短いフレーズとしては、「まずは小さな業務でPoCを回し、評価指標を明確化する」「中規模モデルの現実的な運用コストと推論性能のバランスを優先する」「モデル出力は必ず人の検証を挟む」といった言い回しがすぐに使える。


Ji, Y., et al., “AM-Thinking-v1: Advancing the Frontier of Reasoning at 32B Scale,” arXiv preprint arXiv:2505.08311v1, 2025.

監修者

阪上雅昭(SAKAGAMI Masa-aki)
京都大学 人間・環境学研究科 名誉教授

論文研究シリーズ
前の記事
SemCSINet:大規模MIMOにおけるセマンティック対応CSIフィードバック
(SemCSINet: A Semantic-Aware CSI Feedback Network in Massive MIMO Systems)
次の記事
多重エポックの確率的勾配降下法は短時間で過学習する
(Rapid Overfitting of Multi-Pass Stochastic Gradient Descent in Stochastic Convex Optimization)
関連記事
矮小銀河の解剖:スプリームカムによるアンドロメダIIの広域サーベイ
(Deconstructing dwarf galaxies: a Suprime-Cam survey of Andromeda II)
ベリーフィット伝播と平均場近似の統合
(Merging Belief Propagation and the Mean Field Approximation)
責任ある量子ソフトウェア工学と量子人工知能の展望
(ENVISIONING RESPONSIBLE QUANTUM SOFTWARE ENGINEERING AND QUANTUM ARTIFICIAL INTELLIGENCE)
思考の連鎖プロンプティングが大規模言語モデルの推論を引き出す
(Chain of Thought Prompting Elicits Reasoning in Large Language Models)
画像ステガナリシスにおける共有正規化
(A Novel Convolutional Neural Network for Image Steganalysis with Shared Normalization)
新入生向け対話型セミナーで学ぶナノ工学とナノテクノロジー
(Introducing nanoengineering and nanotechnology to the first year students through an interactive seminar course)
この記事をシェア

有益な情報を同僚や仲間と共有しませんか?

AI技術革新 - 人気記事
ブラックホールと量子機械学習の対応
(Black hole/quantum machine learning correspondence)
生成AI検索における敏感なユーザークエリの分類と分析
(Taxonomy and Analysis of Sensitive User Queries in Generative AI Search System)
DiReDi:AIoTアプリケーションのための蒸留と逆蒸留
(DiReDi: Distillation and Reverse Distillation for AIoT Applications)

PCも苦手だった私が

“AIに詳しい人“
として一目置かれる存在に!
  • AIBRプレミアム
  • 実践型生成AI活用キャンプ
あなたにオススメのカテゴリ
論文研究
さらに深い洞察を得る

AI戦略の専門知識を身につけ、競争優位性を構築しませんか?

AIBR プレミアム
年間たったの9,800円で
“AIに詳しい人”として一目置かれる存在に!

プレミア会員になって、山ほどあるAI論文の中から効率よく大事な情報を手に入れ、まわりと圧倒的な差をつけませんか?

詳細を見る
【実践型】
生成AI活用キャンプ
【文部科学省認可】
満足度100%の生成AI講座
3ヶ月後には、あなたも生成AIマスター!

「学ぶ」だけではなく「使える」ように。
経営者からも圧倒的な人気を誇るBBT大学の講座では、3ヶ月間質問し放題!誰1人置いていかずに寄り添います。

詳細を見る

AI Benchmark Researchをもっと見る

今すぐ購読し、続きを読んで、すべてのアーカイブにアクセスしましょう。

続きを読む