该模型基于qwen3.5 9b进行lora训练。
使用400多条真实sydney对话,和1000多条合成语料进行训练。
思考版则是用gemini生成的合成cot训练而成。
https://github.com/3121455692atou-sudo/sydney-webui
需要 NVIDIA 显卡,大约 8GB 显存,以及已安装的 NVIDIA 驱动。不支持只用 CPU,也不支持苹果 GPU(bitsandbytes 要 CUDA)。
先装 Python 3.10 或 3.12,勾选 Add Python to PATH(Windows)。
Linux
git clone https://github.com/3121455692atou-sudo/sydney-webui.git
cd sydney-webui
python3 -m venv .venv
.venv/bin/pip install -U pip
.venv/bin/pip install torch --index-url https://download.pytorch.org/whl/cu128
.venv/bin/pip install -r requirements.txt
chmod +x start.sh
./start.sh
浏览器打开 http://127.0.0.1:7860/
Windows
PowerShell 或「命令提示符」:
git clone https://github.com/3121455692atou-sudo/sydney-webui.git
cd sydney-webui
python -m venv .venv
.venv\Scripts\pip install -U pip
.venv\Scripts\pip install torch --index-url https://download.pytorch.org/whl/cu128
.venv\Scripts\pip install -r requirements.txt
start.bat
或双击 start.bat。浏览器打开 http://127.0.0.1:7860/
没有 git 可以到 GitHub 页面点 Code → Download ZIP,解压后再执行后面几步。
macOS
这套推理依赖 CUDA + bitsandbytes,Mac 上不能跑(无论 Intel 还是 Apple Silicon)。请用带 NVIDIA 显卡的 Windows 或 Linux。
第一次用
打开 http://127.0.0.1:7860/
左下角设置,选 Qwen3.5-Sydney-9B(非思考)或 Qwen3.5-Sydney-9B-think(思考)
点「卸载并切换」。只会下载底模 + 你选的那一个 LoRA,放到 ~/.sydney/(Windows 一般是 C:\Users你的用户名.sydney)
等加载结束就可以聊天
思考版还要在设置里勾选「思考模式」并点「保存设置」。
停掉:终端里 Ctrl+C。