昨天在github上看到一个在本地部署中文大模型的项目,和大家分享一下。先把地址po出来。 项目名称:中文LLaMA&Alpaca大语言模型+本地部署 (Chinese LLaMA & Alpaca LLMs) 项目地址:https://github.com/ymcui/Chinese-LLaMA-Alpaca 以下是原github中给出的体验GIF,可以看到这个模型还是具备一定的指令理解和上下文对话能力的。 继续阅读
Search Results for: docker部署和本地化部署
查询到最新的12条
Chatgpt训练过程使用的是什么平台和技术
在ChatGPT的训练过程中,使用了Docker等容器技术来支持实现训练过程中不同组件之间的隔离,并且使部署和运行更加快速和可靠。 Docker是一种开源的容器化平台,可以创建、部署和运行应用程序的容器。使用Docker技术,可以先将训练任务需要的环境和软件组件打包到容器镜像中,然后在不同的系统和环境中使用该容器镜像,使系统间的组件隔离,降低不同组件之间产生干扰和冲突的概率,保证训练 继续阅读
本地化部署AI语言模型RWKV指南,ChatGPT顿时感觉不香了。
之前由于ChatGpt处处受限,又没法注册的同学们有福了,我们可以在自己电脑上本地化部署一套AI语言模型,且对于电脑配置要求也不是非常高,对它就是RWKV。 关于RWKV RWKV是一个开源且允许商用的大语言模型,灵活性很高且极具发展潜力,它是一种纯 RNN 的架构,能够进行语言建模,目前最大参数规模已经做到了 14B,该模型训练由Stability赞助。本文发布时R 继续阅读
Docker容器化部署尝试——多容器通信(node+mongoDB+nginx)
原因是这样的 想要部署一个mocker平台,就在朋友的推荐下选择了 api-mocker 这个现成的项目 该项目分为服务端node、客户端vue、以及数据库mongodb 在尝试直接部署的时候发现需要装一大堆的环境,node、mongo、nginx啊,特别的麻烦,之前简单的使用过docker,就在想能不能用docker免环境直接部署呢?于是就有了这次的尝试 多容器通信 该项目分为3个部分,于是就要建立3个容器(node、mongo、ng 继续阅读
详解Nginx 和 PHP 的两种部署方式的对比
详解Nginx 和 PHP 的两种部署方式的对比 2种部署方式简介 第一种 前置1台nginx服务器做HTTP反向代理和负载均衡 后面N太服务器的Nginx做Web服务,并调用php-fpm提供的fast cgi服务 此种部署方式最为常见,web服务和PHP服务在同一台服务器上都有部署 第二种 前置1台nginx服务器做Web服务 后面服务器只部署php-fpm服务,供ng 继续阅读
【用ChatGPT学习】docker-compose
说明:以下回答来自于 Chat-GPT 什么是docker-compose? Docker Compose是一个用于定义和运行多个Docker容器的工具。它允许您使用YAML文件定义应用程序的服务、网络和卷,并使用单个命令启动、停止和重建整个应用程序。使用Docker Compose可以使开发人员和系统管理员更轻松地管理和协调多个Docker容器,从而简化了应用程序的部署和维护。 docker-compose教程 Docker 继续阅读
部署了一个ChatGPT
部署了一个ChatGPT ChatGPT火爆了一段时间了,但是基于一些不可描述的原因,不能注册使用。为了方便大家体验,我部署了一个服务,能简单地体验一下ChatGPT的强大。话不多说,直接展示几个例子截图。文章最后放上体验地址和体验方式。 探索问题 这里我探索了一个技术问题,但是实际上你也可以问很多其他方面的问题,比如为什么行人靠右、世界上有多少个国家、为什么饭吃多了肚子痛。。。 重点是 继续阅读
用docker搭建selenium grid分布式环境实践
目录 前言: selenium jar包直接启动节点 用docker命令直接启动 docker-compose 启动 Hub和node在一台机器上 Hub和node不在一台机器上 遗留问题 总结 前言: Selenium是一个流行的自动化测试工具,支持多种编程语言和多种浏览器。Selenium Grid是Selenium测试框架的一个扩展,它可以将测试任务分发给不同的计算机上运行不同浏览器的测试。 而使用Doc 继续阅读
docker+docker-compose+nginx前后端分离项目部署
1.安装docker 1.1 基于centos的安装 安装yum-utils sudo yum install -y yum-utils 从国内服务器上下载docker sudo yum-config-manager \--add-repo \http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo 安装docker sudo yum install -y docker-ce docker-ce-cli co 继续阅读
中科大ChatGPT学术镜像小白部署教程,全民都可以拥抱AI
docker…不会用…python不会用…服务器默认python版本3.6不会升级…代理也不会配置…各种命令不会用… 那么下面就是最简单办法,点点点即可【希望有帮助?】 文章目录一、体验镜像地址二、 基本配置2.1 config.py文件2.2 main.py文件三、下载项目四、项目部署五、演示 一、体验镜像地址 中科大学术版ChatGPT镜像:https://huggingface.co/spaces/cfwef/gpt 永久免费镜像克隆 继续阅读
K8S:二进制安装K8S(单台master)安装etcd和master
系列文章目录 ` 文章目录 系列文章目录一、安装K8S1.系统初始化配置2.部署docker引擎3.部署etcd集群 二、1.2. 总结 一、安装K8S 1.系统初始化配置 注意:该操作在所有node节点上进行,为k8s集群提供适合的初始化部署环境 #所有节点执行 systemctl stop firewalld systemctl disable firewalld iptables -F && iptables -t 继续阅读
[每周一更]-(第57期):用Docker、Docker-compose部署一个完整的前后端go+vue分离项
文章目录 1.参考项目2.技能点3.GO的Dockerfile配置后端的结构如图Dockerfile先手动docker调试服务是否可以启动报错 4.Vue的Dockerfile配置前端的结构如图nginx_docker.confDockerfile构建 5.docker-compose 整合前后端docker-compose.yml错误记录(1)ip+端口改为https域名访问第一种:通过挂载ssl证书文件,增加端口解决& 继续阅读