标签: LLM

7 篇文章

thumbnail
书生大模型实战营——Lagent 自定义你的 Agent 智能体
本文参考实战营提供的教程:Tutorial/docs/L2/Lagent/readme.md at camp3 · InternLM/Tutorial (github.com) 基础任务: 使用 Lagent 自定义一个智能体,并使用 Lagent Web Demo 成功部署与调用 1 Lagent 介绍 Lagent 是一个轻量级开源智能体框架,旨在让用户可以高效地构建基于大语言模型的智能体。同…
thumbnail
书生大模型实战营——XTuner 微调个人小助手认知
本文参考实战营提供的教程:Tutorial/docs/L1/XTuner at camp3 · InternLM/Tutorial (github.com) 基础任务: 使用 XTuner 微调 InternLM2-Chat-1.8B 实现自己的小助手认知 进阶任务: 用自己感兴趣的知识对基座模型进行增量预训练微调 在资源允许的情况下,尝试实现多卡微调与分布式微调 将自我认知的模型上传到 Open…
thumbnail
书生大模型实战营——OpenCompass 评测 InternLM-1.8B 实践
本文参考实战营提供的教程:Tutorial/docs/L1/OpenCompass/readme.md at camp3 · InternLM/Tutorial (github.com) 基础任务: 使用 OpenCompass 评测 internlm2-chat-1.8b 模型在 ceval 数据集上的性能 进阶任务: 使用 OpenCompass 进行主观评测 使用 OpenCompass 评…
thumbnail
书生大模型实战营——llamaindex+Internlm2 RAG实践
本文参考实战营提供的教程:camp3 · InternLM/Tutorial (github.com) 本文将记录RAG的具体实践过程,具体内容包含: RAG原理介绍 环境配置 LlamaIndex HuggingFaceLLM LlamaIndex RAG 1 RAG原理介绍 给模型注入新知识的方式,可以简单分为两种方式,一种是内部的,即更新模型的权重,另一个就是外部的方式,给模型注入格外的上下…
thumbnail
书生大模型实战营——开源体系听课笔记
课程链接:书生·浦语大模型全链路开源体系 InternLM2的模型选用 提供了两种规格的模型: 7B规格:为轻量级研究提供轻便且性能不俗的模型 20B规格:综合性更强,支持更复杂场景 每种规格的模型都提供了三个版本: InternLM2-Base:高质量、可塑性强的模型基座 InternLM2:基于Base,在多个能力方向进行强化,并保持通用语言能力,最推荐使用 InternLM2-Chat:在B…
thumbnail
书生大模型闯关营——8GB显存玩转书生大模型Demo
本文参考实战营提供的教程:Tutorial/docs/L1/Demo/readme.md at camp3 · InternLM/Tutorial (github.com) 本关卡主要需要完成的任务如下: InternLM2-Chat-1.8B 模型的部署(基础任务) InternLM-XComposer2-VL-1.8B 模型的部署(进阶任务) InternVL2-2B 模型的部署(进阶任务) …
thumbnail
书生大模型实战营——闯关入门篇
本文参考实战营提供的教程:Tutorial/docs/L0/Linux/readme.md at camp3 · InternLM/Tutorial (github.com) 开发机启用 本实战营采用的是由InternLM提供的InternStudio开发机完成的,登录后通过算力点换取开发机的使用时间,本次实验的配置如下: 该开发机提供了良好的可视化界面,十分方便使用: SSH连接配置 我们主要采…