「Mixture of Experts」の版間の差分

編集の要約なし
1行目: 1行目:
'''Mixture of Experts'''(MoE)とは[[、人工知能]]、とくに[[大規模言語モデル]]([[LLM]])で使われる重要なアーキテクチャのひとつで、「巨大なモデルを複数の「専門家」に分割し、入力ごとに必要な専門家だけを動かす仕組み」です。
'''Mixture of Experts'''(MoE)とは、[[人工知能]]、とくに[[大規模言語モデル]]([[LLM]])で使われる重要なアーキテクチャのひとつで、「巨大なモデルを複数の「専門家」に分割し、入力ごとに必要な専門家だけを動かす仕組み」です。


従来は全教科を1人の全知全能の先生が担当していたものを、国語の先生、数学の先生、社会の先生などと科目ごとに分担したような感じです。
従来は全教科を1人の全知全能の先生が担当していたものを、国語の先生、数学の先生、社会の先生などと科目ごとに分担したような感じです。