如何接入更多的大模型？

[codexu]

为了支持更多的模型接入，暂时先牺牲流式传输，只要符合 openai 协议的都可以接入。
v0.7.0 已接入了豆包、通义千问、Kimi，也支持自定义配置。

未来需要考虑的事情：

• 支持其他协议的模型。
• 如何在支持跨域的请求下，支持流式传输？
• 更多的内置模型选项。

[lcxhh521]

啥时候可以支持谷歌的大模型呀

[codexu]

已调研，与 openai 协议不太一样，需要一点时间去兼容。

[lcxhh521]

大佬加油

[lcxhh521]

还想问一下，现在支持中转API吗

[JSbio]

Ollama本地模型API写什么啊？总提示错误怎么破？谢谢
PS：Ollama已正常启动

[codexu]

这个 Bug 正在修复，详情请关注 #57

[ZhangBo0918]

api key是ollama，目前还是使用不了（notegen 0.81版本）

[codexu]

如何接入阿里云百炼，字节火山引擎？
查看 #164

[codexu]

LM Studio 本地部署的大模型无法连上
查看 #158

[BradKML]

OpenRouter, nuff said