What is G4F?

G4F,即GPT4Free的简称,是一个强大的大型语言模型命令行界面(LLM-CLI),其使命是去中心化并提供免费访问先进AI技术的途径。G4F旨在通过提供一个用户友好且高效的工具来与最先进的语言模型进行互动,从而使AI大众化。

如何使用?

docker

使用如下命令下载docker镜像并运行容器:

$ docker pull hlohaus789/g4f
$ docker run -p 8080:8080 -p 1337:1337 -p 7900:7900 --shm-size="2g" -v ${PWD}/har_and_cookies:/app/har_and_cookies hlohaus789/g4f:latest

或使用docker-compose.yaml:

version: '3.7'

services:
  g4f:
    image: hlohaus789/g4f:latest
    ports:
      - 1337:1337
      - 7900:7900
      - 8080:8080
    volumes:
      - ./hardir:/app/hardir
$ docker compose up -d

容器启动后,浏览器访问http://localhost:8080/chat即可使用。

python

使用下面的命令来安装g4f

$ pip install -U g4f
# 文本生成
from g4f.client import Client

client = Client()
response = client.chat.completions.create(
    model="gpt-3.5-turbo",
    messages=[{"role": "user", "content": "Hello"}],
    ...
)
print(response.choices[0].message.content)

# 图片生成
from g4f.client import Client

client = Client()
response = client.images.generate(
  model="gemini",
  prompt="a white siamese cat",
  ...
)
image_url = response.data[0].url

孟斯特

声明:本作品采用署名-非商业性使用-相同方式共享 4.0 国际 (CC BY-NC-SA 4.0)进行许可,使用时请注明出处。

Author: mengbin

blog: mengbin

Github: mengbin92

cnblogs: 恋水无意

腾讯云开发者社区:孟斯特