常見問題
為什麼 gpt-4 額度消耗這麼快?
- gpt-4 的消耗速度是 gpt-3.5-turbo 的 20 到 40 倍,假設購買了 9w token,我們用 30 倍作為平均倍率,也就是 90000 / 30 = 3000 字左右,加上每次要附帶上歷史消息,能發的消息數將會進一步減半,在最極限的情況下,一條消息就能把 9w token 消耗完,所以請謹慎使用。
使用 Next Web 時,有哪些節省 token 的小技巧?
- 點開對話方塊上方的設置按鈕,找到裡面的設置項:
- 攜帶歷史消息數:數量越少,消耗 token 越少,但同時 gpt 會忘記之前的對話
- 歷史摘要:用於記錄長期話題,關閉後可以減少 token 消耗
- 注入系統級提示詞:用於提升 ChatGPT 的回復品質,關閉後可減少 token 消耗
- 點開左下角設置按鈕,關閉自動生成標題,可以減少 token 消耗
- 在對話時,點擊對話方塊上方的機器人圖示,可以快捷切換模型,可以優先使用 3.5 問答,如果回答不滿意,再切換為 4.0 重新提問。
為什麼GPT4不知道它自己是誰?
直接問GPT4:”你是誰?““你是什麼模型?”諸如此類問題,一般情況下GPT4的API也會回答自己是GPT3,估計是官方預置的原因。GPT4和3.5用的都是2021年之前的資料,那時候還沒有GPT4。
官網和某些套殼不回答是GPT3,是因為他們提前預設了提示詞,讓GPT認為自己是別的模型了,這個可以通過問答所消耗的總token看出來,預設提示詞是會消耗token的。
如果說你對比官網和API的回答,發現有所不一,那也很正常。一是因為,GPT4對同一個問題的每次回答都是不同的;二是,官網對GPT4的參數進行了一定的優化。