DotCraft - ドットクラフト

DotCraft - ドットクラフト

【HRM】極小サイズのAIがGPTを超えた方法とは?話題の階層型推論モデルを日本一わかりやすく解説 | Singular Radio #20

【HRM】極小サイズのAIがGPTを超えた方法とは?話題の階層型推論モデルを日本一わかりやすく解説 | Singular Radio #20

動画タイプ
一般
公開日
2025年9月5日
再生回数
1万814回
高評価数
324
データ確認日時
2026年5月29日 14:43

動画概要

本動画は、階層的推論モデル(Hierarchical Reasoning Model; HRM)の核心を解説します。HRMは、層の“深さ”を時間方向の反復に置き換え、高頻度に更新される低レベル(L)と低頻度で全体計画を担う高レベル(H)を組み合わせ、ACT(適応的計算時間)で「どこまで考えるか」を動的に制御します。 学習面ではセグメントごとの1ステップ近似勾配によりメモリ使用を反復数に依存しないO(1)に抑え、長い思考展開を現実的に学習可能にします。 推論の停止はQ-learningで「今答える/続けて考える」を選び、難題ほど計算を配分し早すぎる収束を避けます。 生物学的示唆(STDP、混合選択性)との対応や、Sudokuでの伸び・ARCでの限界などの評価所見、汎用化や1ステップ近似の課題もあわせて整理します。

SingularRadio(シンギュラーラジオ) は、テクノロジー、イノベーション、社会の未来について、深い知識と洞察を提供するポッドキャストです。 海外大(ブリティッシュコロンビア大学)でコンピュータサイエンスを専攻するKeisukeとTakeshiのホスト二人が、AI、ロボティクス、スタートアップ、経済などの最前線で起きている出来事を掘り下げ、知的好奇心を刺激する内容をお届けします。

TIMESTAMPS:
(00:00:00) オープニング
(00:01:52) 階層的推論モデル(HRM)概要
(00:04:45) TransformerとCoTの復習と課題
(00:11:12) HRM解説開始
(00:14:52) 全体設計と外側ループ・ACT
(00:19:15) 内部構造と階層分け(高レベル・低レベル)
(00:25:55) 1ステップ近似勾配・停止機構
(00:30:21) なぜ精度が上がるのか?
(00:34:44) 生物学的脳との類似点
(00:39:03) 弱点と課題
(00:42:56) まとめ

▼運営会社(株式会社日本自動化技術)はこちら https://japan-automation-technology.v...
お仕事の御依頼は上記HPのお問い合わせフォームまたは[email protected]までご連絡ください。

Apple Podcast: https://podcasts.apple.com/us/podcast...
Spotify: ⁠https://open.spotify.com/show/2nOYrpc...
X (Twitter) アカウント:⁠https://x.com/SingularRadio

今回の引用元論文:
© Wang, G., Li, J., Sun, Y., Chen, X., Liu, C., Wu, Y., Lu, M., Song, S., Abbasi Yadkori, Y., 2025. “Hierarchical Reasoning Model,” arXiv:2506.21734 (v3, 2025-08-04), Fig. X. CC BY 4.0 (No changes).
DOI: https://doi.org/10.48550/arXiv.2506.2... /
License: https://creativecommons.org/licenses/...

#hrm #階層型推論モデル #ai #llm #gpt #小型モデル #singularradio