流出したMetaのLLaMaとかいうチャットAI落としてみたんにゃが

**風吹けば名無し** · 2023/03/08(水) 07:55:55.14

これVRAM15㌐以上必要らしくてワイの3080Tiじゃ動かんみたいやが12㌐で動かせた人おるけ？
https://i.imgur.com/z3k4GaK.jpg

**風吹けば名無し** · 2023/03/08(水) 07:58:36.76

オフラインで出来るんか？

**風吹けば名無し** · 2023/03/08(水) 07:59:13.08

>>2
スペックさえあればstable diffusionみたいにローカルで動くみたいやで

**風吹けば名無し** · 2023/03/08(水) 08:01:48.79

ええやん
ゲームに取り入れたら面白そう

**風吹けば名無し** · 2023/03/08(水) 08:05:25.43

実行するには学習済みの重みファイルをVRAMに展開するみたいやが、一番小さい70億パラメータのモデルでも13GBもあるからゲームしながらはまだ難しいと思うで
https://i.imgur.com/NEnd6aX.jpg

**風吹けば名無し** · 2023/03/08(水) 08:09:13.96

一番大きい650億パラメータモデルはこんなんなっとるしローカル実行は夢のまた夢やね……
https://i.imgur.com/8NtdOWN.jpg

**風吹けば名無し** · 2023/03/08(水) 08:21:55.23

一パラメータ何ビットなん？

**風吹けば名無し** · 2023/03/08(水) 08:24:51.22

>>7
動画やとuint8やから8ビットでVRAMに展開しとるみたいやね

**風吹けば名無し** · 2023/03/08(水) 08:26:09.05

もし3090か4090持ちの富豪J民おったらワイのかわりに試してクレメンス

https://youtu.be/_-fvdv7j6AQ

**風吹けば名無し** · 2023/03/08(水) 08:30:06.84

**風吹けば名無し** · 2023/03/08(水) 08:30:19.70

llamaってなんの略なの

**風吹けば名無し** · 2023/03/08(水) 08:32:12.54

>>11
Large Language Model Meta AIの頭文字らしいで
LLM（大規模言語モデル）+ metaやね

**風吹けば名無し** · 2023/03/08(水) 08:32:31.92

堂々と犯罪自慢

**風吹けば名無し** · 2023/03/08(水) 08:33:59.28

>>13
もちろんちゃんとマルチホップさせたノーログVPN噛ませとるで