Transformer

提供:MonoBook
2025年9月5日 (金) 05:58時点におけるAdministrator (トーク | 投稿記録)による版
(差分) ← 古い版 | 最新版 (差分) | 新しい版 → (差分)

Transformerとは、2017年にGoogleの研究チームが発表した機械学習モデルアルゴリズム)で、ある系列から別の系列へ変換するニューラルネットワークです。

ここでいう系列とは「順序をもったデータの並び」のことで、とくに文章は「順序をもった単語の並び」とその最もたるものであり、さまざまな自然言語処理に使えるであろうと言われており、Google翻訳のために作られたものでした。

後にOpenAI社がTransformerを魔改造したGPTモデルとそれを利用したChatGPTを発表して話題をかっさらってしまいました。