【朗報】ワイジ、ついにmeta言語モデルを自分のPC上で動かすことに成功してしまう！！

**風吹けば名無し** · 2023/03/15(水) 16:11:06.07

こいつ日本語も喋るやん！！

**風吹けば名無し** · 2023/03/15(水) 16:11:28.61

**風吹けば名無し** · 2023/03/15(水) 16:12:54.52

そのままだとクソでかい65Bモデルも動いたわ
量子化すごいンゴね

**風吹けば名無し** · 2023/03/15(水) 16:14:02.93

応答クソ微妙で草
巨大言語モデルの姿か？これが…

**風吹けば名無し** · 2023/03/15(水) 16:14:07.06

meta言語モデルって何や？

**風吹けば名無し** · 2023/03/15(水) 16:14:41.67

もし試したい人おったらdalaiとnode.jsで動くで
モデルダウンロードから圧縮までやってくれるすごいツールや
https://github.com/cocktailpeanut/dalai

**風吹けば名無し** · 2023/03/15(水) 16:15:20.30

>>4
元々llama自体が日本語非対応なんや……

**風吹けば名無し** · 2023/03/15(水) 16:16:03.08

しょーもない会話してて草

**風吹けば名無し** · 2023/03/15(水) 16:16:18.56

>>5
meta（フェイスブック）がGPTに対抗するために作ったチャットAIやで

**風吹けば名無し** · 2023/03/15(水) 16:17:39.08

>>9
ホェー、イッチ有能民やな

**風吹けば名無し** · 2023/03/15(水) 16:17:53.20

>>8
考えるよりも先に手がうんちを打ってしまったんや
なんJの呪いやね

**風吹けば名無し** · 2023/03/15(水) 16:18:37.95

使う側のイッチの知能指数が低すぎる
宝の持ち腐れや😫

**風吹けば名無し** · 2023/03/15(水) 16:19:16.52

>>10
いやワイは無能やで
metaがllamaをリークしたと聞いて真っ先に落としたのに一番小さい70億パラメータモデルでもvram15GBとか必要やときいて諦めてしまった敗北者や

**風吹けば名無し** · 2023/03/15(水) 16:19:42.23

ついにって言うけどコマンド2つ打つだけやん

**風吹けば名無し** · 2023/03/15(水) 16:19:54.74

>>12
すまんなワイの脳にはたくさんのうんちがつまっとるんや……
もし他に聞きたいことあったらなんでも書いてくれや

**風吹けば名無し** · 2023/03/15(水) 16:22:21.85

>>14
せやで
dallai作った有能には頭があがらんで

**風吹けば名無し** · 2023/03/15(水) 16:23:31.64

ちなみにdalaiだけやとautocompleteモードしかないからllama.cppでインタラクティブモード使えばchatgptみたいに会話ができるようになるで
https://github.com/ggerganov/llama.cpp

**風吹けば名無し** · 2023/03/15(水) 16:23:34.85

metaは吃るんか…

**風吹けば名無し** · 2023/03/15(水) 16:23:43.38

githubの存在を知ってるだけでイッチは有能側の人間や

**風吹けば名無し** · 2023/03/15(水) 16:25:28.66

ちなみにイッチのスペックを教えてくれ

**風吹けば名無し** · 2023/03/15(水) 16:26:19.73

言語モデルが個人PCで動くってすごい時代やな