【LLMs】ChatGLM 小羊驼Vicuna Baichuan-7B+量化微调

文章目录 前言一、ChatGLM-6B介绍二、使用步骤2.1 机器配置2.2 安装git-lfs 三、安装ChatGLM-6B3.1 下载ChatGLM-6B源3.2 安装ChatGLM依赖3.3 下载ChatGLM-6B模型文件3.4 模型下载完成3.5 ChatGLM-6B使用方式3.6 加载模型启动cli测试 四、安装Vicuna-7B4.1 下载Vicuna Weight4.2 下载LLaMA Weight4.3 模型权重合并4.4 cli模型推理 五、FastChat介绍 0 Comments

文章目录

  • 前言
  • 一、ChatGLM-6B介绍
  • 二、使用步骤
    • 2.1 机器配置
    • 2.2 安装git-lfs
  • 三、安装ChatGLM-6B
    • 3.1 下载ChatGLM-6B源
    • 3.2 安装ChatGLM依赖
    • 3.3 下载ChatGLM-6B模型文件
    • 3.4 模型下载完成
    • 3.5 ChatGLM-6B使用方式
    • 3.6 加载模型启动cli测试
  • 四、安装Vicuna-7B
    • 4.1 下载Vicuna Weight
    • 4.2 下载LLaMA Weight
    • 4.3 模型权重合并
    • 4.4 cli模型推理
  • 五、FastChat介绍

本文链接：https://my.lmcjl.com/post/10829.html

展开阅读全文

相关文章

4 评论

留下您的评论.