「Intel MacでBonsai-8Bを動かす」の版間の差分
Administrator (トーク | 投稿記録) |
Administrator (トーク | 投稿記録) |
||
| 33行目: | 33行目: | ||
</source> | </source> | ||
=== cli で動かす === | |||
<source lang=bash> | <source lang=bash> | ||
% ./llama.cpp/build/bin/llama-cli -m models/Bonsai-8B.gguf | % ./llama.cpp/build/bin/llama-cli -m models/Bonsai-8B.gguf | ||
| 39行目: | 39行目: | ||
チャットできるようになった。めっちゃ遅い。 | チャットできるようになった。めっちゃ遅い。 | ||
=== Web UI / Web API を動かす === | |||
<source lang=bash> | <source lang=bash> | ||
% ./llama.cpp/build/bin/llama-server \ | % ./llama.cpp/build/bin/llama-server \ | ||