「Transformer」の版間の差分

提供: MonoBook
ナビゲーションに移動 検索に移動
 
3行目: 3行目:
 
ここでいう系列とは「順序をもったデータの並び」のことで、とくに文章は「順序をもった単語の並び」とその最もたるものであり、さまざまな自然言語処理に使えるであろうと言われていました。
 
ここでいう系列とは「順序をもったデータの並び」のことで、とくに文章は「順序をもった単語の並び」とその最もたるものであり、さまざまな自然言語処理に使えるであろうと言われていました。
  
Transformerは[[OpenAI]]社が開発している[[ChatGPT]]のモデルの元にもなっていることでも有名です。
+
後に[[OpenAI]]社がTransformerを[[魔改造]]した[[GPTモデル]]とそれを利用した[[ChatGPT]]を発表して話題をかっさらってしまいました。
  
 
[[category: 人工知能]]
 
[[category: 人工知能]]

2024年4月10日 (水) 03:11時点における最新版

Transformerとは、2017年にGoogleの研究チームが発表した機械学習モデル(アルゴリズム)で、ある系列から別の系列へ変換するニューラルネットワークです。

ここでいう系列とは「順序をもったデータの並び」のことで、とくに文章は「順序をもった単語の並び」とその最もたるものであり、さまざまな自然言語処理に使えるであろうと言われていました。

後にOpenAI社がTransformerを魔改造したGPTモデルとそれを利用したChatGPTを発表して話題をかっさらってしまいました。