Skip to content

Openai api forward · OpenAI 接口转发服务

License

Notifications You must be signed in to change notification settings

casezhao/openai-forward

 
 

Repository files navigation

OpenAI Forward

简介

OpenAI 接口转发服务.
用途: 解决国内无法直接访问OpenAI的问题,将该服务部署在海外服务器上,通过该服务转发OpenAI的请求。即搭建反向代理服务
测试地址:https://caloi.top/v1/chat/completions

转发接口示例

https://api.openai.com

  • /dashboard/billing/usage
  • /v1/chat/completions
  • /v1/completions
  • ......

默认转发所有接口。

应用

这里以个人搭建好的代理地址 https://caloi.top 为例

修改 Docker Compose 中的OPENAI_API_BASE_URL为我们搭建的代理服务地址即可:

OPENAI_API_BASE_URL: https://caloi.top 
docker run -d -p 3000:3000 -e OPENAI_API_KEY="sk-xxx" -e CODE="<your password>" -e BASE_URL="caloi.top" yidadaa/chatgpt-next-web

服务搭建

提供两种服务部署方式,选择一种即可

方式一: pip

安装

pip install openai-forward

运行转发服务

Option 1

可通过--port指定端口号,默认为9999,可通过--workers指定工作进程数,默认为1

openai_forward run --port=9999 --workers=1

服务就搭建完成了,使用方式只需将https://api.openai.com 替换为服务所在端口http://{ip}:{port} 即可。

当然也可以将 OPENAI_API_KEY 作为环境变量传入作为默认api key, 这样客户端在请求相关路由时可以无需在Header中传入Authorization。 带默认api key的启动方式:

OPENAI_API_KEY="sk-xxx" openai_forward run --port=9999 --workers=1

注: 如果既存在默认api key又在请求头中传入了api key,则以请求头中的api key会覆盖默认api key.

Option 2

另一种使用nodejs的部署方式,环境中需已安装node, 也是默认转发https://api.openai.com的所有接口路由,但目前不支持设定默认api key。 启动方式

openai_forward node --port=9999

方式二: Docker

docker run -itd -p 9999:9999 beidongjiedeguang/openai-forward:latest --port=9999 --workers=1

注:同样可以在启动命令中通过-e传入环境变量OPENAI_API_KEY=sk-xxx作为默认api key

服务调用

替换openai的api地址为该服务的地址即可,如:

https://api.openai.com/v1/chat/completions

替换为

http://{ip}:{port}/v1/chat/completions

About

Openai api forward · OpenAI 接口转发服务

Resources

License

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages

  • Python 91.4%
  • Makefile 5.8%
  • Dockerfile 2.8%