CATEGORY

Content Moderation

39
  • 論文研究

LLMsに対する望ましくないコンテンツへの回復力のあるガードレール（RigorLLM: Resilient Guardrails for Large Language Models against Undesired Content）

田中専務拓海先生、本日は論文の話を伺いたくて参りました。最近、部下から「言語モデルにガードレールを付ける研究が進んでいる」と聞きまして、要するに安全対策の研究という理解でよろしいですか。AIメンター拓海素晴らしい着眼点ですね！大丈夫、要点をまず三つに整理しますよ。今回の研究は、1)有害な

  • LLM
  • , Content Moderation
  • 論文研究

試行錯誤を超えて：モデレーション介入後のユーザー離脱予測（Beyond Trial-and-Error: Predicting User Abandonment After a Moderation Intervention）

田中専務拓海さん、最近うちの部下が「モデレーション」とか「予測モデル」とか言い出して困っているのですが、要するに何が変わるんでしょうか。AIメンター拓海素晴らしい着眼点ですね！一言で言えば、試行錯誤で対応するのではなく、介入前に離脱リスクを予測して判断できるようにする取り組みですよ。

  • Content Moderation
  • , Machine learning
  • 論文研究

子ども向け動画の強化されたマルチモーダルコンテンツモデレーション（Enhanced Multimodal Content Moderation of Children’s Videos using Audiovisual Fusion）

田中専務拓海先生、最近部下が「子ども向け動画の音を見た方がいい」と騒いでまして、正直何が変わるのか見当もつきません。要点を簡潔に教えてくださいませんか。AIメンター拓海素晴らしい着眼点ですね！結論を先に言うと、視覚だけで判断している既存システムでは見逃す“音だけで有害な動画”を検出できる

  • Content Moderation
  • 論文研究

Diffusionモデルの不正適応を防ぐための選択的テンソル凍結（FreezeAsGuard: Mitigating Illegal Adaptation of Diffusion Models via Selective Tensor Freezing）

田中専務拓海さん、最近社内で「拡散モデルの微調整で勝手に著作権や肖像権を侵害する事例がある」と聞きました。うちでもAIを使いたいが、こうしたリスクはどう防げるんでしょうか。AIメンター拓海素晴らしい着眼点ですね！大丈夫、まず結論を短く。FreezeAsGuardという手法は、違法に利用さ

  • Diffusion Model
  • , Content Moderation
  • 論文研究

監視する者を監視する：クラウドベースのコンテンツモデレーションサービスの公平性監査（Watching the Watchers: A Comparative Fairness Audit of Cloud-based Content Moderation Services）

田中専務拓海先生、最近クラウドのモデレーションサービスを社内で検討するよう言われましてね。外注すると楽そうですが、偏りや誤判定が怖いんです。これって本当に信用していいものでしょうか。AIメンター拓海素晴らしい着眼点ですね！大丈夫、順を追って見ればリスクと利点が整理できますよ。結論を先に言

  • Fairness
  • , Content Moderation
  • 論文研究

アノテータの主観性を活かすマルチタスク学習フレームワーク（A multitask learning framework for leveraging subjectivity of annotators to identify misogyny）

田中専務拓海先生、最近部下から「アノテータの主観性を使うと精度が上がる」という論文があると聞きまして、正直ピンとこないのですが、要はデータにばらつきがあるということですか。AIメンター拓海素晴らしい着眼点ですね！大丈夫、整理して説明しますよ。ここで言う主観性とは、人間の注釈者が同じ文章を

  • Fairness
  • , Content Moderation
  • 論文研究

LoRA-Guardによるパラメータ効率的ガードレール適応（LoRA-Guard: Parameter-Efficient Guardrail Adaptation for Content Moderation of Large Language Models）

田中専務拓海さん、お時間ありがとうございます。最近、部下から「チャットにAIを入れて、発言をチェックするガードが必要だ」と言われまして。何をどう議論すればいいのか見当がつかなくて困っています。AIメンター拓海素晴らしい着眼点ですね！大丈夫、一緒に整理しましょう。要は「安全に、速く、コスト

  • LLM
  • , Distribution Shift
  • , Content Moderation
  • 論文研究

テキストから画像への拡散モデルを文脈ベースの細粒度ポリシーで監視する（Moderator: Moderating Text-to-Image Diffusion Models through Fine-grained Context-based Policies）

田中専務拓海先生、最近部署でAIの画像生成ツールの導入が話題ですけれど、うちの業務で問題になりそうな点は何でしょうか。著作権や肖像権など、現実的なリスクが多くて不安なんです。AIメンター拓海素晴らしい着眼点ですね！大丈夫、まず整理しましょう。要点は3つです。1）生成系のText-to-I

  • Diffusion Model
  • , Evaluation
  • , Content Moderation
  • 論文研究

コンテンツモデレーションの正当性へ — 精度から正当性へ（Content Moderation by LLM: From Accuracy to Legitimacy）

田中専務拓海さん、最近うちの若手から「LLMでモデレーションを自動化すべきだ」と言われましてね。正直、何を測れば良いのかもわからないんですよ。精度を上げればそれで済む話ではないと聞きましたが、要するにどう違うんですか？AIメンター拓海素晴らしい着眼点ですね！まず用語だけ整理します。Lar

  • LLM
  • , Content Moderation
  • 論文研究

EU規制下におけるディープフェイクコンテンツモデレーションの多層戦略（A Multi-Level Strategy for Deepfake Content Moderation under EU Regulation）

田中専務拓海先生、最近若手から“ディープフェイク対策の論文”を読めと言われまして。ただ正直、技術的な話が多くて腰が引けています。要点を教えていただけますか。AIメンター拓海素晴らしい着眼点ですね！大丈夫、順を追って噛み砕いて説明しますよ。結論ファーストで言うと、この論文は“個別の検出手法

  • Content Moderation