「Transformer」の版間の差分

編集の要約なし
編集の要約なし
 
(同じ利用者による、間の5版が非表示)
1行目: 1行目:
'''Transformer'''とは、2017年に[[Google]]の研究チームが発表した機械学習モデルで、ある系列から別の系列へ変換する[[ニューラルネットワーク]]です。
'''Transformer'''とは、2017年に[[Google]]の研究チームが発表した[[機械学習モデル]]([[アルゴリズム]])で、ある系列から別の系列へ変換する[[ニューラルネットワーク]]です。


このモデルは2017年にGoogleの研究者によって「Attention is All You Need」という論文で初めて紹介されました。
ここでいう系列とは「順序をもったデータの並び」のことで、とくに文章は「順序をもった単語の並び」とその最もたるものであり、さまざまな自然言語処理に使えるであろうと言われており、[[Google翻訳]]のために作られたものでした。


ここでいう系列とは「順序をもったデータの並び」のことで、とくに文章は「順序をもった単語の並び」とその最もたるものであり、さまざまな自然言語処理に使えるであろうと言われています。
後に[[OpenAI]]社がTransformerを[[魔改造]]した[[GPTモデル]]とそれを利用した[[ChatGPT]]を発表して話題をかっさらってしまいました。


Transformerは[[OpenAI]]社が開発している[[ChatGPT]]のモデルの元にもなっていることでも有名です。
<amazon> Transformer AI </amazon>


[[category: 人工知能]]
[[category: 人工知能]]