Colab 免费 T4 部署 Qwen3-VL-4B:修复模型加载、实测推理与 Gradio 公网访问
在 Google Colab 免费 Tesla T4 上,使用 NF4 量化成功加载 Qwen3-VL-4B 并完成图片推理。本文记录模型初始化、端口占用与 Gradio 分享隧道问题的修复步骤,并提供真实部署截图和可下载的一键 Notebook/Python 脚本。
在 Google Colab 免费 Tesla T4 上,使用 NF4 量化成功加载 Qwen3-VL-4B 并完成图片推理。本文记录模型初始化、端口占用与 Gradio 分享隧道问题的修复步骤,并提供真实部署截图和可下载的一键 Notebook/Python 脚本。
实测 Qwen-Image-2.1 部署 Google Colab 免费 T4:原始 FP16 加载因 12.7GB 系统内存 OOM;改用 Diffusers + bitsandbytes NF4 4-bit 后成功生成 512×512 图片。附安装代码、真实截图与避坑说明。