手把手教你快速搭建一個(gè)屬于自己的大模型聊天軟件(聊天app搭建)
在當(dāng)前AI大模型的熱潮中,零基礎(chǔ)的編程新手可能會(huì)覺(jué)得學(xué)習(xí)成本過(guò)高。然而,本文將打破這個(gè)障礙,無(wú)需任何編程基礎(chǔ),無(wú)需特殊網(wǎng)絡(luò),更無(wú)需花費(fèi)一分錢。我將手把手地教你構(gòu)建自己的國(guó)內(nèi)聊天大模型。讓我們一起探索這個(gè)令人興奮的AI世界,你準(zhǔn)備好了嗎?
第一步:python環(huán)境準(zhǔn)備
下載并安裝python環(huán)境
https://www.python.org/ftp/python/3.12.0/python-3.12.0-amd64.exe
安裝成功
安裝成功! 測(cè)試一下,能否調(diào)用,同時(shí)按下win R(win就是開(kāi)始菜單的那個(gè)鍵)
進(jìn)入命令行,輸入python –version,出現(xiàn)這樣的界面則表示成功安裝
查看python版本
第二步:安裝依賴
繼續(xù)在剛才打開(kāi)的窗口執(zhí)行一下命令安裝依賴包
pip install gradio dashscope langchain –default-timeout=100 -i https://pypi.tuna.tsinghua.edu.cn/simple/ –trusted-host pypi.tuna.tsinghua.edu.cn
預(yù)計(jì)要運(yùn)行個(gè)一兩分鐘
安裝依賴
第三步:創(chuàng)建一個(gè)請(qǐng)求的私有key
使用阿里賬號(hào)登錄以下地址https://dashscope.console.aliyun.com/apiKey
在API-KEY管理中創(chuàng)建一個(gè)API-KEY
創(chuàng)建key
因?yàn)楫?dāng)前阿里的大模型“qwen-72b-chat”剛出不久,目前使用并不收費(fèi),所以不用擔(dān)心費(fèi)用問(wèn)題
第四步:執(zhí)行代碼
隨便找一個(gè)目錄創(chuàng)建一個(gè)txt文件,如我創(chuàng)建在D:dataai新建 文本文檔.txt,打開(kāi)后將以下文本粘貼進(jìn)去
import os
import gradio as gr
from langchain_community.llms.tongyi import Tongyi
os.environ["DASHSCOPE_API_KEY"] = "申請(qǐng)一個(gè)自己的key"
llm = Tongyi()
llm.model_name = "qwen-72b-chat"
def echo(message, history, system_prompt, tokens):
str = llm.invoke(message)
yield str
with gr.Blocks() as demo:
gr.ChatInterface(
echo,
title="聊天機(jī)器人",
theme="soft",
retry_btn=None,
undo_btn="Delete Previous",
clear_btn="清除"
)
demo.queue().launch(server_name="0.0.0.0", server_port=8888)
注意:其中"申請(qǐng)一個(gè)自己的key"請(qǐng)改成第三步中你自己創(chuàng)建的私有key
將txt文件重命名成server.py
之后在剛才打開(kāi)的管理臺(tái)運(yùn)行命令
python D:dataaiserver.py
執(zhí)行命令
第五步: 開(kāi)始聊天
瀏覽器請(qǐng)求以下地址http://localhost:8888/
就可以在顯示出來(lái)的窗口中聊天啦
大模型聊天界面
注意:建議使用google瀏覽器訪問(wèn)效果更佳,不確定其他瀏覽器有沒(méi)有存在兼容問(wèn)題
至此,一個(gè)最簡(jiǎn)單的聊天大模型就部署好了!