2 分で読了
1 views

生物学的に実装可能な時系列逆伝播の代替

(Biologically inspired alternatives to backpropagation through time for learning in recurrent neural nets)

さらに深い洞察を得る

AI戦略の専門知識を身につけ、競争優位性を構築しませんか?

AIBR プレミアム
年間たったの9,800円で
“AIに詳しい人”として
一目置かれる存在に!

プレミア会員になって、山ほどあるAI論文の中から効率よく大事な情報を手に入れ、まわりと圧倒的な差をつけませんか?

詳細を見る
【実践型】
生成AI活用キャンプ
【文部科学省認可】
満足度100%の生成AI講座
3ヶ月後には、
あなたも生成AIマスター!

「学ぶ」だけではなく「使える」ように。
経営者からも圧倒的な人気を誇るBBT大学の講座では、3ヶ月間質問し放題!誰1人置いていかずに寄り添います。

詳細を見る

田中専務

拓海先生、最近部下から「スパイキングニューラルネットワーク」とか「e-prop」とか聞くのですが、正直ついていけません。これって要するにどんな話なんでしょうか。

AIメンター拓海

素晴らしい着眼点ですね!大丈夫、短く要点を3つで説明できますよ。まず脳に近い動きをするニューラルネットがあり、その学習法として従来のBPTT(back-propagation through time)とは違う、より生物学的に実装可能な手法が提示されたのです。

田中専務

それは良いですが、我々の工場での投資価値で言うと、要するに「今までの学習法の代わりに現実的に使える手法が見つかった」ということですか。

AIメンター拓海

その通りです。ただ補足すると、3つの利点があります。1つ目は実装の現実性でハードウェア化しやすいこと、2つ目は遅れて得られる誤差信号に対処するための仕組みを持つこと、3つ目は性能がBPTTに近づく点です。要点はこの3点ですよ。

田中専務

具体的に現場で何が変わるのか教えてください。例えば故障予兆や制御で役に立ちますか。

AIメンター拓海

できますよ。スパイキングニューラルネットワークはイベント駆動で動くため、センサーデータが希薄でも効率的に学習できます。e-propはその学習を現実的にする技術で、エネルギー効率の良い組み込み機器やニューロモルフィック(neuromorphic)ハードでの適用が期待できます。

田中専務

これって要するに、私たちが今の設備に小さなセンサーボードを付けて省エネで学習させるようなイメージで間違いないですか。

AIメンター拓海

ほぼそのイメージで合っています。もう少しだけ技術的に言うと、従来は過去の活動を遡って誤差を伝える必要があったが、e-propはその代わりに各シナプスが持つ履歴を前へ進めることで同様の効果を達成するのです。大丈夫、一緒にやれば必ずできますよ。

田中専務

なるほど。では最後に私の言葉でまとめます。要は「BPTTのように過去まで誤差を遡らせるのではなく、各接続の活動履歴を未来へ持ち運ぶ方法で実装性と効率を得た」ということですね。

AIメンター拓海

その通りですよ。素晴らしい着眼点ですね!次は導入のコスト感やまず試すべき小さなPoC(概念実証)について一緒に考えましょう。

監修者

阪上雅昭(SAKAGAMI Masa-aki)
京都大学 人間・環境学研究科 名誉教授

論文研究シリーズ
前の記事
多様性に敏感な条件付き生成的敵対ネットワーク
(DIVERSITY-SENSITIVE CONDITIONAL GENERATIVE ADVERSARIAL NETWORKS)
次の記事
小規模データで学習する新しい損失関数:コサイン損失
(Deep Learning on Small Datasets without Pre-Training using Cosine Loss)
関連記事
倉庫空間質問応答を行うLLMエージェント
(Warehouse Spatial Question Answering with LLM Agent)
全身動作予測と行動認識を同時に実現する手法
(Simultaneous Action Recognition and Human Whole-Body Motion and Dynamics Prediction from Wearable Sensors)
AIが発見したストリートビューの風景パターンによるルート可視化
(Visualizing Routes with AI-Discovered Street-View Patterns)
文脈付き動的価格設定の改良アルゴリズム
(Improved Algorithms for Contextual Dynamic Pricing)
SSDの健康状態分類モデルのためのマルチヘッドアテンション機構に基づく双方向ゲート付きループセルの最適化
(Optimization of bi-directional gated loop cell based on multi-head attention mechanism for SSD health state classification model)
Adaptive2: 適応ドメインマイニングによる細粒度ドメイン適応モデリング
(Adaptive2: Adaptive Domain Mining for Fine-grained Domain Adaptation Modeling)
この記事をシェア

有益な情報を同僚や仲間と共有しませんか?

AI技術革新 - 人気記事
ブラックホールと量子機械学習の対応
(Black hole/quantum machine learning correspondence)
生成AI検索における敏感なユーザークエリの分類と分析
(Taxonomy and Analysis of Sensitive User Queries in Generative AI Search System)
DiReDi:AIoTアプリケーションのための蒸留と逆蒸留
(DiReDi: Distillation and Reverse Distillation for AIoT Applications)

PCも苦手だった私が

“AIに詳しい人“
として一目置かれる存在に!
  • AIBRプレミアム
  • 実践型生成AI活用キャンプ
あなたにオススメのカテゴリ
論文研究
さらに深い洞察を得る

AI戦略の専門知識を身につけ、競争優位性を構築しませんか?

AIBR プレミアム
年間たったの9,800円で
“AIに詳しい人”として一目置かれる存在に!

プレミア会員になって、山ほどあるAI論文の中から効率よく大事な情報を手に入れ、まわりと圧倒的な差をつけませんか?

詳細を見る
【実践型】
生成AI活用キャンプ
【文部科学省認可】
満足度100%の生成AI講座
3ヶ月後には、あなたも生成AIマスター!

「学ぶ」だけではなく「使える」ように。
経営者からも圧倒的な人気を誇るBBT大学の講座では、3ヶ月間質問し放題!誰1人置いていかずに寄り添います。

詳細を見る