如何優雅地在你的QQ中部署chatgpt或davinci-3。

更新 2023.3.2

就在今天,chatgpt的官方api整合包在PyPi上線了:openai · PyPI

隻需要升級你的openai到0.27.0就可以調用最新的chatgpt的API了,具體文檔請移步:Chat completion – OpenAI API

我也將chatgpt的API整合進了我的框架中,隻需要將server.yml 中的openai_config的model改成"gpt-3.5-turbo"即可:

如何優雅地在你的QQ中部署chatgpt或davinci-3。

turbo接口相比於達芬奇,響應速度又非常明顯的提升,推理價格隻有達芬奇的十分之一。所以強烈推薦各位二級開發者優先考慮turbo。目前turbo暫不支持finetone。

最近在朋友的安利下,正式註冊了一個openai賬號《之前嫌麻煩一直用的鏡像》,不過我最感興趣的倒不是這玩意兒性能多好,我比較關心openai有沒有提供可供國內直接調用的API,去官網上一看,還真有,雖然截止2023.2.14,openai還沒有公開chatgpt的API《未來的讀者在看的時候應該已經有了,有了記得戳我一下》。但是openai開放了功能豐富的其他功能,其中completion的功能就和chatgpt類似,可以用於生成對應的句子。對於聊天沒有需求的朋友功能應該夠用了。

我先展示一下最終的效果:

https://www.zhihu.com/video/1608957108522893312

簡單支持了一下人格識別:

簡單支持了上下文識別:

簡單支持了提問者人格識別:

這篇文章就將簡單講講如何將openai的服務接入QQ中。

對應服務端的代碼我已經上傳到我的GitHub上,歡迎star和提issue:

原料

為了實現本篇文章的效果,你需要:

  • 一個openai賬號
  • 一個QQ小號
  • 一臺可以正常使用的Linux雲服務器
  • python>=3.5
  • 足夠的耐心

Step1 獲取openai api key

openai提供了三種方式來支持用戶基於API的調用:python,js,命令行工具發起請求,這些在openai的官網上寫得很清楚了。但是無論是哪種,都需要openai api key才能成功訪問,在註冊完openai的賬號後,可以訪問如下鏈接來創建openai api key:OpenAI API

點擊紅框中按鈕生成key

將生成的key保存在電子記事本中,然後註冊進入環境變量中,打開.bashrc或者.zshrc,在末尾寫入:

export OPENAI_API_KEY=<openai api key>