@CITY_BUN
4 weeks ago @Edit 2 weeks ago
latest #28
@CITY_BUN
4 weeks ago @Edit 3 weeks ago
本次教程使用Ollama + Docker
為了給朋友學習用暫時把R標拿掉
@CITY_BUN
4 weeks ago @Edit 4 weeks ago
先下載Ollama到電腦裡 (這裡是windows)Download Ollama on Windows
@CITY_BUN
4 weeks ago
下載好後直接安裝 完成後開始列右下有小羊駝
立即下載
@CITY_BUN
4 weeks ago
用瀏覽器輸入 http://localhost:11434
如果有出現一行字寫ollama is running就成功
@CITY_BUN
4 weeks ago @Edit 4 weeks ago
接下來下載Docker桌面版 應該直接安裝就好
裝完要重新啟動電腦 重啟後記得重啟動OllamaOverview of Docker Desktop
@CITY_BUN
4 weeks ago
打開Docker好像要辦帳號的樣子 就 辦
@CITY_BUN
4 weeks ago @Edit 4 weeks ago
接著在開始功能表輸入cmd 召喚命令提示字元
隨後打開以下網站 找到《Installation with Default Configuration》
🚀 Getting Started | Open WebUI
@CITY_BUN
4 weeks ago @Edit 3 weeks ago
複製圖上示意的這行代碼
https://images.plurk.com/78hYlfbfqGEEqS0fp9pMSW.jpg
如果電腦有GPU的話可以複製這行代碼
但我有GPU卻沒安裝成功
所以建議還是複製上面那個就好了
https://images.plurk.com/6jBXIGU0GmWoCYVusf86eQ.jpg
@CITY_BUN
4 weeks ago
複製完後直接貼進cmd後 enter執行他
@CITY_BUN
4 weeks ago
之後再回去看Docker左邊的image
https://images.plurk.com/1PQy4rkBuKLPHyVH2Gpv22.jpg 會出現這個東西
@CITY_BUN
4 weeks ago
這東西的右邊會有一個播放鍵 按下去
https://images.plurk.com/5JTX7px0APCU3RuP4pYDLH.jpg 可以創建一個像是伺服器的東西
按下optional 名稱英文自訂 下方ports打個0
@CITY_BUN
4 weeks ago
https://images.plurk.com/6xX8B8d0Z0dETewV43ZQGl.jpg 點進創好的container稍微等一下
下面會出現很大的openwebai字樣
這時再點擊滑鼠那邊的藍色字 會跳出網站
@CITY_BUN
4 weeks ago @Edit 4 weeks ago
https://images.plurk.com/1rtzgkMid2dSBTsj35QG1j.jpg 進去辦帳號 辦啦哪次不辦了
@CITY_BUN
4 weeks ago @Edit 4 weeks ago
https://images.plurk.com/2cOcSZh5UHK9HqBJ1Doodg.jpg 進去長這樣 這區就完成了
@CITY_BUN
4 weeks ago
接著來重點 去Ollama找喜歡的model來玩library
@CITY_BUN
4 weeks ago @Edit 4 weeks ago
https://images.plurk.com/7DMQ2PdpbHrA9Bm95F1Jdt.jpg 點進去模組可以有以下資訊
注意有些大小雖然能載 但記憶體如果不夠
Ollama會直接告訴你你電腦跑不動此model
@CITY_BUN
4 weeks ago
接下來再次打開cmd 以下是幾個常用code
@CITY_BUN
4 weeks ago
(模組名稱就是圖上code那邊的名字)

ollama pull 模組名稱 [下載指定模組]
ollama run 模組名稱[下載完執行模組]

/? [執行模組中 可以確認指令列表]
/bye [離開執行中的模組]
@CITY_BUN
4 weeks ago @Edit 3 weeks ago
https://images.plurk.com/6f8i9EO9E87pBUIJRQ0fwC.jpg
目前的幾個愛用model 都能澀澀
Google模組名稱加ollama就能找到
個人比較推mistral-nemo 比較口語化
eramax的話文風會比較文青的感覺
@CITY_BUN
4 weeks ago
總之要用的model都pull下來之後
回到剛才docker打開的openwebai
@CITY_BUN
4 weeks ago
https://images.plurk.com/7df0uIgNO3jA2lcvqFQfdB.jpg 裝完的model可以在這裡看到了
@CITY_BUN
4 weeks ago @Edit 4 weeks ago
https://images.plurk.com/4bDmNrLgenmeD5wshdImwU.jpg
這樣就好了 離線可用的個人ai 耶
@CITY_BUN
4 weeks ago @Edit 4 weeks ago
能不能澀澀就是看你挑的model決定
不過 即使你選的model可以寫色
但直接問他能不能寫色時他會說不行
@CITY_BUN
4 weeks ago
召喚也很簡單 要他RP成寫手你要委文
委一份有打砲場景的NSFW情景故事
他應該會產出有情色描述的短片故事
@CITY_BUN
4 weeks ago @Edit 3 weeks ago
但如果想要更直接的文 可以直接跟他說
請幫我直接用p@nis 跟 c$nt等的情色詞彙
他應該就會重寫一份 並可以看他寫得如何
@CITY_BUN
4 weeks ago
目前用到這樣 然後關於資料存檔的問題
@CITY_BUN
4 weeks ago
直接用cmd跑model的話 關掉cmd記錄就沒了
雖然我記得有save指令但我沒有用過……?
@CITY_BUN
4 weeks ago @Edit 3 weeks ago
然後 我確定刪container聊天記錄會不見
但container關掉重開的話會保留對話
電腦關機會不會刷掉就不是很確定
因為還沒試過 總之就 如果有喜歡的文
對話右上可以下載記錄檔 可以選txt或pdf
back to top