MLX
MLX is a
NumPy-like array framework designed for efficient and flexible machine learning onApplesilicon, brought to you byApple machine learning research.
安装与设置
安装多个Python包:
pip install mlx-lm transformers huggingface_hub
聊天模型
查看一个 使用示例。
from langchain_community.chat_models.mlx import ChatMLX
API 参考:ChatMLX
LLMs
MLX 本地管道
查看一个 使用示例。
from langchain_community.llms.mlx_pipeline import MLXPipeline
API 参考:MLXPipeline