如何使用CPU跑LLM
Large Language Model(LLM)的風潮席捲全球,大家都在努力嘗試使用LLM來建造各式各樣的應用,但LLM本身所需要的計算量很大,沒有足夠的資源是跑不起來的,好在網路上有很多大神們在嘗試只使用少量的把LLM給跑起來,這篇文章介紹一下如何使用CPU的資源就將Llama2跑起來。
Parameter-Efficient Fine-Tuning
隨著大型語言模型(LLM)的蓬勃發展,各式各樣的應用也隨之而來,但如果想要為自己的應用而fine-tune LLM的話,除了更新整個LLM的參數外,還有很多只訓練少量參數的方法,這篇文章簡單介紹一些有效率調整參數的方法。
52 post articles, 7 pages.