Olama Ollama 是一个开源的本地部署工具,专为简化大型语言模型(LLM)的运行和管理而设计。它允许用户在本地机器上运行多种预训练模型,如 Llama 3、Mistral、Code Llama、Gemma 等,从而避免将敏感数据上传到云端,提高隐私和安全性 。Ollama 的核心功能包括模型下载、运行、管理和定制,用户可以通过命令行或图形界面与模型进行交互
LLaMA-Factory LlamaFactory是一个统一框架,集成了一系列前沿的高效训练方法。通过内置的 Web 界面 LlamaBoard,用户无需编码即可灵活定制 100 多个 LLM 的微调过程。我们在语言建模和文本生成任务上通过实验验证了该框架的效率和有效性。
硅基流动 SiliconCloud是一站式大模型云服务平台,基于自研推理引擎,实现大模型高效推理加速,让用户无需关注模型层面的底层技术细节,无需担心研发阶段与产品大规模推广所带来的高昂算力成本,助力开发者和企业聚焦产品创新。
Hugging Face Hugging Face 是一个专注于自然语言处理(NLP)和人工智能(AI)的开源机器学习平台,自2016年成立以来,已成为全球机器学习社区合作开发模型、数据集和应用程序的主要集合地。该平台不仅提供丰富的预训练模型和数据集,还提供了一系列工具和库,帮助开发者快速构建、训练和部署 AI 模型