如何使用Cloud實(shí)現(xiàn)一個(gè)TalkWithLLM

一、準(zhǔn)備

本項(xiàng)目使用?www.perfxcloud.net?大模型平臺(tái)，網(wǎng)站上有詳細(xì)的說明文檔。

注意：PerfXCloud的API接口兼容 OpenAI 的ChatGPT，可以直接使用 OpenAI SDK或者其他中間件來訪問 PerfXCloud。這使得開發(fā)者從ChatGPT或者其他平臺(tái)切換到PerfXCloud變得非常非常容易。

1.如果還沒有PerfXCloud的賬號(hào)，可以登錄網(wǎng)站創(chuàng)建一個(gè)。

2.PerfXCloud目前支持：

Qwen1.5-110B-Chat-GPTQ-Int4, Qwen1.5-72B-Chat-GPTQ-Int4, Qwen2-72B-Instruct-GPTQ-Int4, Meta-Llama-3-70B-Instruct-GPTQ-Int4, Qwen-14B-Chat-Int4, Meta-Llama-3-8B-Instruct,Llama3-Chinese_v2, chatglm3-6b,llama-3-8b, Qwen1.5-7B,Qwen2-7B,gpt2, SOLAR-10_7B-Instruct,llama-2-7b, PHI_1-5,opt-1b3, phi-2,internLM, Mistral-7B-Instruct, MindChat-Qwen-7B-v2,StarCoder-1B （還在持續(xù)更新中）

?

二、TalkWithLLM

TalkWithLLM是一款創(chuàng)新的語音交互工具，它打破了傳統(tǒng)文字輸入的界限，讓用戶能夠通過自然的語音對(duì)話方式與大型語言模型進(jìn)行深入交流。

三、程序部署

下載源碼

git clone  https://gitee.com/PerfXCloud-APP/talk-with-llm.git
cd talk-with-llm

安裝依賴

pip install -r requirements.txt

依賴包解釋

"TalkWithLLM" 項(xiàng)目使用了一系列依賴包和開發(fā)時(shí)的輔助工具。這里重點(diǎn)介紹核心的依賴包及其作用：

1. Openai：是 OpenAI 的 Python SDK，用于與 OpenAI 的 API 進(jìn)行通信。在 TalkWithLLM 中，用于調(diào)用perfxcloud的大型語言模型。

2. pyttsx3:這是一個(gè) Python 文本到語音轉(zhuǎn)換庫。它允許你將文本轉(zhuǎn)換為語音，從而實(shí)現(xiàn) TalkWithLLM 的語音生成功能。

3. speech_recognition:這是一個(gè)用于語音識(shí)別的 Python 庫。它可以將語音轉(zhuǎn)換為文本，從而使 TalkWithLLM 能夠理解用戶的語音輸入。

配置api-key

在代碼里面配置api-key （可以從www.perfxcloud.net?注冊(cè)賬號(hào)獲?。?/p>

四、運(yùn)行

python運(yùn)行項(xiàng)目

python main.py

運(yùn)行效果如下圖

本項(xiàng)目視頻教程地址：

本項(xiàng)目代碼地址：