手把手教你用聆思CSK6大模型開發板接入文心一言/千帆大模型

多模態交互離不開硬件載體，近期有不少開發者在研究大模型開發板除了使用出廠示例自帶的星火大模型，能不能接入文心一言、通義千問、豆包、智譜glm、kimi等國內的大模型，這個是必須支持的。但由于各家接口和數據格式不一樣，有些朋友直接參考chatgpt的方式沒有走通，因此本篇以聆思CSK6大模型開發板接入文心一言為例，分享具體的接入步驟，大家按照文檔步驟操作即可。

由上圖可見，當前SDK方案是把開發套件當做輸入端，文字或圖片內容先上傳到聆思的大模型平臺（LSPlatform），然后平臺再根據匹配的應用策略轉給后端的大模型處理。基于聆思大模型平臺提供的應用編排功能，我們如果要使用其他大模型，只需要從云端更改大模型接入節點，而無需去修改硬件端。

示例中包含3條鏈路，分別為

● 鏈路1: 可通過inject節點調用文心一言節點，并將結果輸出到debug1。

● 鏈路2: 可通過web對話頁調用文心一言節點，最終將大模型結果輸出到對話頁面上。

● 鏈路3: 可通過開發板調用文心一言節點，最終將大模型輸出的結果進行語音合成實現端側播報。

登錄LSplatform，創建新應用

創建成功后在彈出的界面進入應用編排服務。

1.  下載工程示例：文心一言示例.json

2.  導入工程示例：選擇文心一言示例.json文件導入

若提示“您要導入的某些節點已經存在于工作空間中。”，則選擇“導入副本”即可。

參數說明：

● HOST:api.baidubce.com

● AK（Access Key）/SK（Secret Key）：這里使用AK和SK鑒權調用API流程，可前往百度智能云官網創建AK與SK，詳情可查看文檔 基于安全認證AK和SK鑒權調用API流程 - 千帆大模型平臺 | 百度智能云文檔

● Model：這里提供ENRIE-3.5-8K/ENRIE-4.0-Turbo-8K-Preview可選擇，若要更換其他模型，可自行添加。調用其他模型可根據百度智能云文檔來查詢調用方法 千帆大模型平臺 | 百度智能云文檔

● Stream：是否流式返回

在完成參數配置，進入完整體驗之前，我們可以簡單測試驗證，驗證是否成功調用文心一言。

● 部署成功后關閉當前編排服務

● 重啟應用

● 測試接口

重啟應用后，再次點開【編排應用】，點擊時間戳（注入節點），會觸發一次文心一言子流程調用，標記2的紅框中輸出類似日志即代表成功建立鏈接。

● 打開web驗證頁面

回到【我的應用】，雙擊聆思CSK6_文心一言應用，在彈出的應用詳情頁面點擊右上角分享按鈕打開web驗證配置，該配置頁包含測試地址和訪問密碼。

● 訪問web驗證頁面鏈接，在打開的web頁即可與文心一言對話

云端接入文心一言成功后，要想在聆思CSK6大模型開發板上進行語音交互，需要把對接了文心一言的云端服務跟指定開發板綁定。

在產品管理模塊點擊新建產品按鈕，并按要求填寫你的產品名稱。

配置你需要調用的大模型應用，完成配置后，用戶即可體驗文心一言與開發板交互。在此我們僅需在配置應用勾對文章第一步創建的應用即可。

讀取設備id

設備ID是一個產品下的唯一設備標識，我們需要獲取當前設備ID方便后續在云端配置，才能讓設備鑒權通過實現端云交互。

讀取方式：

cskburn desktop是一款聆思推出的桌面燒錄工具，下載地址（cskburn桌面燒錄工具 | 聆思文檔中心）打開軟件后

1.點擊串口下拉框，選擇連接開發套件后識別到的串口編號；

2.點擊獲取信息

3.得到設備ID

加入設備列表

聆思平臺只會對列表中的設備鑒權提供交互服務，因此需要將前面讀取到的設備ID在設備管理頁面進行導入才能實現設備正常交互。

云端配置設備id后，還需將產品ID寫入開發板固件中，才能讓設備在運行時找到正確的云端產品服務完進行鑒權，鑒權完成就可以進行大模型語音交互了。

寫入方式：

使用數據線連接開發板 DAP_USB 接口后，打開聆思在線串口終端,選擇對應的串口設 備進行連接，波特率默認115200，完成配置后點擊連接按鈕。

通過 aiui set product_id 和aiui set secret_id指令可以分別配置開發板接入的大模型應用 product ID 及其密鑰，示例如下：

aiui set product_id 71cd1721-xxx-xxx-xxx-1000055c8b2f

aiui set secret_id cb09013f-xxx-xxx-xxx-e212b32f9218

product_id和 product_secret 可在對應產品的產品信息中獲取，請將指令中的參數替換為產品信息中的 id 與 secret 信息。

● 語音交互

用小美小美喚醒，并提問你是誰，語音回復它是文心一言即可驗證成功。至此，可以確認文心一言接入成功。本文使用的聆思CSK6大模型開發板的詳細信息可參考線上文檔。https://docs2.listenai.com/x/nTn9kMMCU