[geekan/MetaGPT]GPT4好贵,如何接入其他模型呢

2024-05-16 834 views
5

比如Qwen、Baichuan2等...

回答

3

哪怕能接GPT3.5也行 谢谢

6

只要是openai接口规范的模型都是可以接的。 如果要使用GPT3.5,修改config.yaml中的OPENAI_API_MODEL就行了。

2

同意!

8

能不能call本地serve的model呢?比如用TGI和vllm

1

只要是openai接口规范的模型都是可以接的。 如果要使用GPT3.5,修改config.yaml中的OPENAI_API_MODEL就行了。

谢谢

3

只修改config.yaml中的OPENAI_API_MODEL和API_Base就可以了吗?没有别的需要修改的地方吗

只要是openai接口规范的模型都是可以接的。 如果要使用GPT3.5,修改config.yaml中的OPENAI_API_MODEL就行了。

7

但gpt3。5写出来的基本不能用, 和4 没法比呀

7

但gpt3。5写出来的基本不能用, 和4 没法比呀

唉,GPT4太贵了,公司也不给报销 :P

9

感觉可以上langchain当 支持一堆llm可以直接用