- Beranda
- Artificial Intelligence
[Ask] - Best LLM Model for 16GB GPU
...
TS
salukaskus
[Ask] - Best LLM Model for 16GB GPU
Sesuai titlenya: sekarang sudah ada RTX 4060 Ti dengan 16GB VRAM. Nah, meski dia kurang bagus buat gaming, tapi 16GB VRAM itu harusnya bagus ya buat load model LLM.
Kalau untuk VRAM 16GB itu, bisa load model paling gede berapa ya? Apa bisa load model 7B atau bahkan 13B?
Kalau untuk VRAM 16GB itu, bisa load model paling gede berapa ya? Apa bisa load model 7B atau bahkan 13B?
0
7
0
Komentar yang asik ya
Mari bergabung, dapatkan informasi dan teman baru!
Artificial Intelligence
51Thread•65Anggota
Komentar yang asik ya