Gradio Introduction
在做出了令人驚艷的模型或是功能以後,為了可以讓更多人使用,需要一個UI的介面來讓大家來操作,這邊簡單介紹一個可以快速透過python做出網頁UI的套件Gradio。
如何使用CPU跑LLM
Large Language Model(LLM)的風潮席捲全球,大家都在努力嘗試使用LLM來建造各式各樣的應用,但LLM本身所需要的計算量很大,沒有足夠的資源是跑不起來的,好在網路上有很多大神們在嘗試只使用少量的把LLM給跑起來,這篇文章介紹一下如何使用CPU的資源就將Llama2跑起來。
53 post articles, 7 pages.