BERT

  • rinnaが日本語に特化したGPT-2とBERTの事前学習モデルを開発しオープンソース化

    rinnaが日本語に特化したGPT-2とBERTの事前学習モデルを開発しオープンソース化

    rinnaは8月25日、日本語に特化したGPT-2とBERTの事前学習モデルとその学習を再現するためのソースコードを、GitHubおよびNLPモデルライブラリーHuggingFaceにオープンソースソフトウェア(OSS)として公開したと発表した。ライセンスはMIT。製品開発のための実験過程で開発したもので、日本語の自然言語処理(NLP)の研究・開発コミュニティに貢献するためという。 続きを読む

  • Googleがここ数年で最大の検索アルゴリズム更新、ニューラルネットのBERTテクノロジー投入

    Googleがここ数年で最大の検索アルゴリズム更新、ニューラルネットのBERTテクノロジー投入

    Googleは検索エンジンのアルゴリズムをアップデートしたことを発表した。これはここ数年で最大となるもので、検索者の意図の推測精度を改善するためにニューラルネットワークを利用する。 続きを読む