Content Moderation

39
  • 論文研究

ソーシャルメディアにおけるクリックベイト検出(Machine Learning Based Detection of Clickbait Posts in Social Media)

田中専務拓海先生、最近部下から「クリックベイト対策を考えるべきだ」と急に言われましてね。そもそもクリックベイトって会社にとって何が困るんでしょうか。AIメンター拓海素晴らしい着眼点ですね!クリックベイトは見出しで注目を惹きつけるが中身が薄い広告的な投稿です。企業としてはブランド信頼やユー

  • 論文研究

アルゴリズムによるコンテンツモデレーションにおける偏りの継承(Like trainer, like bot? Inheritance of bias in algorithmic content moderation)

田中専務拓海先生、最近うちの現場でも「自動でコメント消すツールを入れたらいいんじゃないか」と若手が言い出して困っているんです。実際どんなリスクがあるんでしょうか?導入コストに見合いますか?AIメンター拓海素晴らしい着眼点ですね!自動モデレーションは効率化に寄与できるんです。ただし、学習デ

  • 論文研究

近傍の良き仲間のように — 実用的なコンテンツモデレーションとテキスト分類(Like a Good Nearest Neighbor: Practical Content Moderation and Text Classification)

田中専務拓海先生、最近、部署で「コンテンツの自動判定を導入しよう」と言われて困っているんです。うちの現場に合う実用的な方法は何があるんでしょうか。AIメンター拓海素晴らしい着眼点ですね!大丈夫、過剰に複雑なモデルに頼らず、軽くて現場に馴染む手法がありますよ。今日はある実務寄りの研究を例に

  • 論文研究

オンライン上の人手による表現変形を集めた検証基盤が示す実務的ギャップ(NoisyHate: Mining Online Human-Written Perturbations for Realistic Robustness Benchmarking of Content Moderation Models)

田中専務最近、部下にAIによる有害投稿の自動検出を導入しろと言われましてね。ただ、現場でよく見る書き換えや崩し文はちゃんと検出できるのか不安でして。これって実際どれくらい現実の問題に近い論文なんですか?AIメンター拓海素晴らしい着眼点ですね!この論文は、まさに現場で人間が自ら作る“変形”

  • 論文研究

大規模言語モデルにおける反復抑制とコンテンツモデレーションの統合(Joint Repetition Suppression and Content Moderation of Large Language Models)

田中専務拓海先生、部下から「AIをすぐ入れるべきだ」と言われておりまして、正直何がどう変わるのか胴元として整理したいのですが、最近の論文で「反復抑制」と「コンテンツ制御」を訓練段階で同時に扱うという話を聞きました。これは現場でどう効いてくるんでしょうか。AIメンター拓海素晴らしい着眼点で

  • 論文研究

視覚と言語の非対称性を踏まえた混合モダリティによるコンテンツモデレーション(Rethinking Multimodal Content Moderation from an Asymmetric Angle with Mixed-modality)

視覚と言語の非対称性を踏まえた混合モダリティによるコンテンツモデレーション(Rethinking Multimodal Content Moderation from an Asymmetric Angle with Mixed-modality)田中専務拓海先生、最近話題の"マルチモーダ

  • 論文研究

インターセクショナルなモデレーション:ケアと権力に基づく代替的コンテンツモデレーションモデル(Towards Intersectional Moderation: An Alternative Model of Moderation Built on Care and Power)

田中専務拓海先生、最近部下から「モデレーションのあり方を変える論文があります」と聞かされまして、正直言って用語からして尻込みしています。要するに現場で使える話なんでしょうか。AIメンター拓海素晴らしい着眼点ですね!大丈夫、シンプルにまとめますと、この論文は「ボランティアのコミュニティ運営

  • 論文研究

画像生成における不適切表現の緩和:世界の醜さを反映することに価値はあるか?(Mitigating Inappropriateness in Image Generation: Can there be Value in Reflecting the World’s Ugliness?)

田中専務拓海先生、最近の画像生成って品質が上がっていると聞きますが、同時に変な画像も出ると部下から聞きまして、どんな問題が起きているんですか?AIメンター拓海素晴らしい着眼点ですね!最近のテキストで指示する画像生成モデルは非常に高品質ですが、学習データに問題があると不適切な画像を出してし

  • 論文研究

ニュースルームにおけるハイブリッドモデレーション: コンテンツモデレーターへのおすすめ投稿の提案(Hybrid moderation in the newsroom: Recommending featured posts to content moderators)

ケントくん博士!オンラインニュースのコメントって、たまにすごくいいものもあれば、見るに堪えないものもあるよね。どうにかできないの?マカセロ博士その通りじゃな、ケントくん。実は、ニュースメディアのコメントセクションの運営を効率化するための面白い研究があるんじゃ。それが「ハイブリッドモデレー

  • 論文研究

FLIRT:フィードバックループ型インコンテキストレッドチーミング(FLIRT: Feedback Loop In-context Red Teaming)

田中専務拓海先生、最近部下から“自動でモデルの安全性を崩す攻撃を見つける技術”がある、と聞きまして、正直ちんぷんかんぷんでして本当に我々の工場に関係あるのか教えていただけますか。AIメンター拓海素晴らしい着眼点ですね!大丈夫、田中専務、これは要するに我々が使うAIの”弱点”を自動で探し出