
LoRA解讀:https://zx2ow2qh1z5.feishu.cn/docx/XTq5daVFio7UWAxjgDmcfVu7nSb[ht...
RAG有兩個核心部分: 檢索部分:保證系統能根據用戶的Prompt找到對應的chunk 生成部分:充分發揮大模型能力,生成一個滿足用戶要求的正確...
OpenCompass 評測 https://github.com/InternLM/Tutorial/blob/camp2/opencompa...
Lagent & AgentLego 智能體應用搭建 一、概述 Lagent 是一個輕量級開源智能體框架,旨在讓用戶可以高效地構建基于大語言模型...
LMDeploy 量化部署 LLM&VLM 實踐 一、理論基礎 大模型部署面臨的挑戰: 計算量巨大 內存開銷巨大 訪存瓶頸:硬件計算速度遠快于顯...
搭建 RAG 智能助理 一、RAG 1.1 概述 RAG(Retrieval Augmented Generation)技術,通過檢索與用戶輸入...
XTuner 微調 LLM:1.8B、多模態、Agent 微調效果: XTuner 一個大語言模型&多模態模型微調工具箱。由 MMRazor 和...
1. 使用 InternLM2-Chat-1.8B 模型生成 300 字的小故事 2. Lagent 部署 在 terminal 中輸入指令,構...
玩轉趣味Demo 主要任務 部署 InternLM2-Chat-1.8B 模型進行智能對話 部署實戰營優秀作品 八戒-Chat-1.8B 模型 ...