
大模型本地化部署、微调、量化、开发平台和工具
一、大模型推理引擎 llama.cpp transformers vLLM SGLang MLX 二、大模型微调工具 2.1 LLaMA-Factory https://github.com/hiy[......]Read more...
一、大模型推理引擎 llama.cpp transformers vLLM SGLang MLX 二、大模型微调工具 2.1 LLaMA-Factory https://github.com/hiy[......]Read more...