Abso

Abso 是一个开源的大型语言模型代理，它会根据提示的复杂程度自动在快速和慢速模型之间路由请求。它使用各种启发式方法来选择合适的模型。它非常快速且延迟很低。

安装与设置

pip install langchain-abso

聊天模型

查看使用详情 这里