「Transformer」の版間の差分
ナビゲーションに移動
検索に移動
Administrator (トーク | 投稿記録) (ページの作成:「'''Transformer'''とは、2017年にGoogleの研究チームが発表した機械学習モデルで、ある系列から別の系列へ変換するニューラル…」) |
Administrator (トーク | 投稿記録) |
||
6行目: | 6行目: | ||
Transformerは[[OpenAI]]社が開発している[[ChatGPT]]のモデルの元にもなっていることでも有名です。 | Transformerは[[OpenAI]]社が開発している[[ChatGPT]]のモデルの元にもなっていることでも有名です。 | ||
+ | |||
+ | [[category: 人工知能]] |
2024年4月10日 (水) 03:08時点における版
Transformerとは、2017年にGoogleの研究チームが発表した機械学習モデルで、ある系列から別の系列へ変換するニューラルネットワークです。
このモデルは2017年にGoogleの研究者によって「Attention is All You Need」という論文で初めて紹介されました。
ここでいう系列とは「順序をもったデータの並び」のことで、とくに文章は「順序をもった単語の並び」とその最もたるものであり、さまざまな自然言語処理に使えるであろうと言われています。