查询到最新的1条

大语言模型工程化服务系列之三--------姜子牙大模型fastapi接口服务

姜子牙大语言模型fastapi接口服务 姜子牙大模型效果还可以,但是如何将它的模型文件部署成自己的服务呢,下面是教程代码 一、安装环境 python 版本 3.7 transformer最新版本 二、姜子牙fastapi接口服务代码 1.服务端代码 import uvicorn from fastapi import FastAPI from pydantic import BaseModel from transformers import Auto 继续阅读