
田中専務
拓海先生、最近の論文で「BERTer」というものを見かけました。要点だけ教えていただけますか。私、こういうの本当に苦手でして。

AIメンター拓海
素晴らしい着眼点ですね!大丈夫、簡単にいきますよ。BERTerは要するに既存のBERTモデルを、精度を落とさずにより効率的に動かす工夫を重ねた研究です。まず結論を3つにまとめますと、SMARTという正則化で過学習を防ぎ、Siamese系で文章比較を改善し、早期終了で計算を減らす、です。

田中専務
SMARTって何ですか?それと早期終了というのは電源を切るみたいな話ですか。
