CATEGORY

LLM

11529
  • 論文研究

事前学習データ混合の最適化 — Optimizing Pretraining Data Mixtures with LLM-Estimated Utility

田中専務拓海先生、お疲れ様です。最近、社内で「データの混ぜ方で学習効率が変わる」と聞いて慌てています。要するに、どのデータをどれだけ使えばいいかを決める研究の話ですよね？導入するとコスト削減になるんでしょうか。AIメンター拓海素晴らしい着眼点ですね！大丈夫、一緒に整理しましょう。結論を最

  • LLM
  • , Training Data
  • 論文研究

テキスト-数値グラフ推論における大規模言語モデルとグラフニューラルネットワークの融合（Large Language Models Meet Graph Neural Networks for Text-Numeric Graph Reasoning）

田中専務拓海先生、先日部下からこの分野の論文だと聞いたのですが、要点を端的に教えていただけますか。私、AIは名前だけ知っている程度でして。AIメンター拓海素晴らしい着眼点ですね！大丈夫、分かりやすく説明しますよ。結論を先に言うと、この研究は"文章で説明できる情報"と"数値で示されるサンプ

  • LLM
  • , Neural Networks
  • 論文研究

ShadowGenes：計算グラフ内の反復パターンを活用したモデル系譜（ShadowGenes: Leveraging Recurring Patterns within Computational Graphs for Model Genealogy）

田中専務 拓海先生、最近部署の若手が「既製のモデルを使う前に系譜を調べるべきだ」と言い出しまして、正直何を聞けばいいのか分かりません。ShadowGenesという論文をざっくり教えていただけますか。 AIメンター拓海 素晴らしい着眼点ですね！ShadowGenesは、機械学習モデルがどの系統（家

  • LLM
  • 論文研究

LLMが“思考の型”に囚われていないか？（Is your LLM trapped in a Mental Set? Investigative study on how mental sets affect the reasoning capabilities of LLMs）

田中専務拓海先生、最近うちの若手から「LLM（大規模言語モデル）を使えば賢くなりますよ」と言われてましてね。ただ、本当に現場で判断に使えるのか不安でして。要するに、学習済みのクセみたいなものが邪魔して誤った答えを返すことってあるんでしょうか。AIメンター拓海素晴らしい着眼点ですね！大丈夫

  • LLM
  • 論文研究

PINNsAgent：大規模言語モデルを用いた偏微分方程式（PDE）代替の自動化 — PINNsAgent: Automated PDE Surrogation with Large Language Models

田中専務拓海先生、最近話題のPINNsAgentという論文について聞きました。うちの現場にも応用できそうか、要点を簡単に教えていただけますか。AIメンター拓海素晴らしい着眼点ですね！PINNsAgentは偏微分方程式（PDE）の解をニューラルネットで近似するPINNsを、LLMs（Lar

  • LLM
  • , Neural Networks
  • 論文研究

フィッシング認識向上のためのゲームベース学習（Phishing Awareness via Game-Based Learning）

田中専務拓海先生、今日は論文を一つ見せてもらいたくて来ました。現場から「社員のフィッシング耐性を上げてほしい」と言われまして、どこから手を付けるべきか悩んでいるのです。AIメンター拓海素晴らしい着眼点ですね！今回の論文は「ゲームベースの学習」を使ってフィッシング認識を高めた研究です。要点

  • LLM
  • 論文研究

LLMの好むデータで段階的に学ぶカリキュラム（Preference Curriculum: LLMs Should Always Be Pretrained on Their Preferred Data）

田中専務拓海先生、お時間いただきありがとうございます。部下からAIの導入を急かされているのですが、最近読んだ論文で「モデルが好むデータで事前学習せよ」という話がありまして、正直ピンと来ておりません。これって要するに何を変えるべきという話でしょうか。AIメンター拓海素晴らしい着眼点ですね！

  • LLM
  • 論文研究

多様な能力のバランス学習のための影響度ベース指示チューニングデータ選択の改善（Improving Influence-based Instruction Tuning Data Selection for Balanced Learning of Diverse Capabilities）

田中専務拓海先生、お忙しいところ恐れ入ります。弊社でAI活用を進めるにあたり、この論文の話を聞きましたが、正直ピンと来ていません。要するに何が新しいのでしょうか。AIメンター拓海素晴らしい着眼点ですね！まず簡単に言うと、この研究は「どの学習データを使うか」を賢く選ぶことで、モデルが複数の

  • LLM
  • , Bias
  • 論文研究

AdaServe: SLOにカスタマイズ可能なLLMサービングと細粒度の推測デコーディング（AdaServe: SLO-Customized LLM Serving with Fine-Grained Speculative Decoding）

田中専務拓海先生、最近部署で『応答の速さと正確さを選べる仕組み』という話が出てまして、うちでも導入できるか知りたいんですが、何をどう変えれば良いのでしょうか。AIメンター拓海素晴らしい着眼点ですね！大丈夫、要点を3つにまとめますよ。まずは「どの顧客にどれだけ速く応答すべきか」を個別に決め

  • LLM