DeepSeek-R1-Distill-Qwen-7B 部署实测:Google Colab 免费 T4 4-bit 安装与推理教程
实测结论:DeepSeek-R1-Dis […]
在 Google Colab 免费 Tesla T4 上,使用 NF4 量化成功加载 Qwen3-VL-4B 并完成图片推理。本文记录模型初始化、端口占用与 Gradio 分享隧道问题的修复步骤,并提供真实部署截图和可下载的一键 Notebook/Python 脚本。
实测 Qwen-Image-2.1 部署 Google Colab 免费 T4:原始 FP16 加载因 12.7GB 系统内存 OOM;改用 Diffusers + bitsandbytes NF4 4-bit 后成功生成 512×512 图片。附安装代码、真实截图与避坑说明。