「人工知能のパラメーター数」の版間の差分
Administrator (トーク | 投稿記録) ページの作成:「'''人工知能のパラメーター数'''とは、その人工知能がプログラム中で使用している（メモリに保持している）行列やベクトルの総数です。 <source lang="python"> import torch # 例えば、1000個の入力から500個の出力へ変換する層のパラメータ # 重み: (出力数, 入力数) の行列 weights = torch.randn(500, 1000) # バイアス: (出力数) のベクトル bias = torch.r…」 |
Administrator (トーク | 投稿記録) 編集の要約なし |
||
| 13行目: | 13行目: | ||
# パラメータ数 = 500 * 1000 + 500 = 500,500 | # パラメータ数 = 500 * 1000 + 500 = 500,500 | ||
</ | </source> | ||
数字がデカければ賢いという単純なものではありませんが、パラメータが多いほどモデルの表現力が増し、より複雑な文脈やニュアンスを理解・表現でき、高性能になる傾向があります。 | 数字がデカければ賢いという単純なものではありませんが、パラメータが多いほどモデルの表現力が増し、より複雑な文脈やニュアンスを理解・表現でき、高性能になる傾向があります。 | ||