概念
Assistants API(助手API)是OpenAI提供的一套API,方便開發者可以使用代碼的方式創建自定義AI助手。
允許接入三種不同類型的 tools:
- 代碼解釋器(Code Interpreter)
- 檢索,知識庫集成(Retrieval)
- 函數調用(Function calling)
通過構建 AI 助手,用戶可以通過指令(instructions)設置助手的角色和能力。然后,AI 助手將利用其強大的大語言模型能力、各種工具(tools)和知識庫來回答用戶的問題。
GPTs 是什么
- GPTs 是 OpenAI 提供的可以在平臺網頁上快速創建定制版的ChatGPT(即自定義聊天機器人)的功能。
構建一個完整的GPTs應用
登陸 OpenAI 網站,選擇 Explore,然后再 My GPTs 中選擇 create a GPTs.
有兩種方式可以進行GPTs 的創建:
- 通過對話的方式進行,選擇 Create
- 通過配置的方式進行,選擇 Configure
只需要將需要的配置進行設置,就能得到一個想到的GPTs的能力。
- Web Browsing:網頁瀏覽能力
-
Code Interpreter:代碼編寫以及執行能力
下圖是這個數據分析助手的一個demo情況,用戶可以在兩三分鐘內快速實現一個AI助手。
Assistants API 集成
用戶可以通過Assistant playground 進行Assistants API 的探索,參考以下教程使用 API 進行 AI Assistant 集成。
通常進行 Assistants API 集成需要一下四個步驟:
- 首先創建一個AI助手 (Assistant)。
- 通過自定義指令(custom instructions)進行 AI 助手能力定義,實現 AI 助手的形象和能力定位。
- 選擇基礎模型,可以選擇 GPT-3.5、GPT-4 等作為基礎模型。
- 選擇擴展能力 tools 例如 code interpreter, retrieval 以及其他的 function call 工具。
已有能力:
- 創建和管理 assistant,每個 assistant 有獨立的配置
- 支持無限長的多輪對話,對話歷史保存在 OpenAI 的服務器上
- 通過自有向量數據庫支持基于文件的 RAG
- 支持 Code Interpreter
- 在沙箱里編寫并運行 Python 代碼
- 自我修正代碼
- 可傳文件給 Code Interpreter
- 支持 Function Calling
- 支持在線調試的 Playground
承諾未來會有的能力:
- 支持 DALL·E
- 支持圖片消息
- 支持自定義調整 RAG 的配置項
收費:
- 按 token 收費。無論多輪對話,還是 RAG,所有都按實際消耗的 token 收費
- 如果對話歷史過多超過大模型上下文窗口,會自動放棄最老的對話消息
- 文件按數據大小和存放時長收費。1 GB 向量存儲 一天收費 0.10 美元
- Code interpreter 跑一次 $0.03
大模型典型的商業應用:
1、智能體越來越多
2、大語言模型在解決業務上單點問題效果非常好:客服的對話分析。
Assistants API是OpenAI去年11月份發布的(封裝的云接口,集成了更多能力),主要是彌補原生API有很多不足:如RAG功能需要自己開發,如不方便做三方接口封裝等。
GPTs的作用:可以不用寫代碼,在GPT Store里快速配置搭建一個GPT給客戶演示,或搭建原型驗證功能可行性。
1、GPTs是基于網頁操作,可以快速搭建自定義GPT(自定義機器人)
2、如果要進行深度開發,需要用到Assistants API(內部封裝了RAG、Function等)
OpenAI其實給了應用開發者更大的空間
1、更多技術路線選擇:原生API、GPTs 和 Assistants API
2、想要極致調優,還得原生 API + RAG
做一個自己的GPT
需求:
1、能對話
2、可以查詢自己的數據庫
3、用文件做知識庫
方式1:通過網頁創建(platform.openai.com/assistants)
方式2:通過代碼創建
GPTs與智能體的區別
智能體更加復雜:不光是判斷當前調用什么函數,他把一個工作拆成多個步驟,然后一步一步去執行。
GPTs與Playground區別
GPTs偏向于用戶,可以快速配置一個GPT
Playground偏開發(模擬代碼調用),可以調試開發的一些細節,和查看日志,是Assistants API的界面調試工具。