deepseek蒸馏到小模型，deepseek蒸馏实战，微调deepseek
基座模型（base模型）、聊天模型（chat模型）和指令模型（instruct模型）分别是什么？
使用ollama运行glm4-9b
白嫖100元免费算力，推理qwen2-72b-int4，千问2
GLM-4-9B 是智谱 AI 推出的最新一代预训练模型 GLM-4 系列中的开源版本。在语义、数学、推理、代码和知识等多方面的数据集
前言 本篇文章是基于lora对qwen的微调，但是对于每个人的机器配置以及cuda环境，可能会导致一些问题，如果遇到问题可以发在评论区，大家一起研究，同时测试数据我放到下面了，需要的自行获取。 更新：qwen1.5微调文章已经更新五步炼丹，qwen通义千问1.5版本微调实战1、环境准备首先需
本文主要内容是对于Qwen量化实战演练，将深入探讨两种不同的量化方法：分别是使用官方量化后的int4模型进行微调，得到
行获取。
本文是根据魔搭社区推出的轻量级训练推理工具SWIFT微调实战教程。SWIFT（Scalable lightWeight Infrastructure for Fine-Tuning
近期，元象公司推出了其首个Moe大模型XVERSE-MoE-A4.2B。该模型采用了混合专家模型架构（Mixture of Experts），并拥有4.2B的激活参数，
Meta，一家全球知名的科技和社交媒体巨头，在其官方网站上正式宣布了一款开源的大型预训练语言模型——Llama-3。据
近期， Microsoft 推出 Phi-3，这是 Microsoft 开发的一系列开放式 AI 模型。Phi-3 模型是一个功能，在各种语言、推理、编码和数学基准测试。
CPU推理，大模型cpu部署，,仅需要最小程度的第三方依赖，并采用静态链接的方式引用依赖库。提供C++和Py能。
CPU推理大模型，引擎dashinfer 我在win下pip install 一直失败，不知道是不是我环境的问题，还是本身包不支持wi
Copyright © 2005-2025 51CTO.COM 版权所有 京ICP证060544号
