「Transformer」の版間の差分

提供: MonoBook
ナビゲーションに移動 検索に移動
1行目: 1行目:
 
'''Transformer'''とは、2017年に[[Google]]の研究チームが発表した機械学習モデル([[アルゴリズム]])で、ある系列から別の系列へ変換する[[ニューラルネットワーク]]です。
 
'''Transformer'''とは、2017年に[[Google]]の研究チームが発表した機械学習モデル([[アルゴリズム]])で、ある系列から別の系列へ変換する[[ニューラルネットワーク]]です。
 
このモデルは2017年にGoogleの研究者によって「Attention is All You Need」という論文で初めて紹介されました。
 
  
 
ここでいう系列とは「順序をもったデータの並び」のことで、とくに文章は「順序をもった単語の並び」とその最もたるものであり、さまざまな自然言語処理に使えるであろうと言われています。
 
ここでいう系列とは「順序をもったデータの並び」のことで、とくに文章は「順序をもった単語の並び」とその最もたるものであり、さまざまな自然言語処理に使えるであろうと言われています。

2024年4月10日 (水) 03:09時点における版

Transformerとは、2017年にGoogleの研究チームが発表した機械学習モデル(アルゴリズム)で、ある系列から別の系列へ変換するニューラルネットワークです。

ここでいう系列とは「順序をもったデータの並び」のことで、とくに文章は「順序をもった単語の並び」とその最もたるものであり、さまざまな自然言語処理に使えるであろうと言われています。

TransformerはOpenAI社が開発しているChatGPTのモデルの元にもなっていることでも有名です。