Unsloth Studio là gì? Cách cài web UI để chạy và train model local

Tóm tắt nhanh:

Unsloth Studio là web UI beta từ repo unslothai/unsloth, hướng tới chạy và train model local trên Windows, Linux, WSL và macOS. README chính thức có lệnh cài nhanh bằng script, lệnh launch unsloth studio -p 8888, Docker image unsloth/unsloth, và hướng cài Unsloth Core bằng uv. Bài này tập trung vào cách bắt đầu an toàn, không tự xác nhận claim tốc độ/VRAM nếu chưa benchmark trên máy của bạn.

Unsloth Studio là web UI beta cho phép chạy và train model local. Nó hỗ trợ text, audio, embedding và vision models trên Windows, Linux và macOS.

Unsloth có hai hướng dùng chính: Studio dạng web UI cho người muốn thao tác trực quan, và Unsloth Core dạng code-based cho workflow Python.

Khi nào bạn nên dùng Unsloth?

Bạn nên thử Unsloth khi muốn chạy hoặc fine-tune model cục bộ, cần web UI để tải/chạy model, hoặc muốn học workflow training mà không tự ráp mọi thứ từ đầu.

Bạn chưa nên dùng nó để train dữ liệu nhạy cảm nếu chưa hiểu rõ nơi lưu workspace, model, log, dataset và quyền truy cập web UI.

Cần chuẩn bị gì trước khi cài

Với Studio, README nói hỗ trợ Windows, Linux, WSL và macOS. CPU hiện hỗ trợ Chat và Data Recipes. NVIDIA được README mô tả là dùng cho training trên nhiều dòng GPU như RTX 30/40/50, Blackwell, DGX Spark, Station và hơn nữa. macOS hỗ trợ training, MLX và GGUF inference theo README.

Nếu dùng Docker GPU, bạn cần Docker và runtime GPU đã hoạt động. Nếu không chắc, hãy bắt đầu bằng script cài local hoặc môi trường test riêng.

Cách cài nhanh trên macOS, Linux, WSL

Lệnh quickstart chính thức là:

curl -fsSL https://unsloth.ai/install.sh | sh

README ghi dùng cùng lệnh này để update. Sau khi cài, chạy Studio:

unsloth studio -p 8888

Mặc định, Unsloth chỉ truy cập local. Nếu chạy trên cloud hoặc muốn truy cập global, README ghi thêm -H 0.0.0.0:

unsloth studio -p 8888 -H 0.0.0.0

Chỉ mở 0.0.0.0 khi bạn hiểu firewall, password, reverse proxy và rủi ro public web UI.

Cách cài trên Windows

README đưa lệnh PowerShell:

irm https://unsloth.ai/install.ps1 | iex

Bạn cũng dùng cùng lệnh để update. Với Unsloth Core trên Windows, README nhắc pip install unsloth chỉ hoạt động nếu bạn đã có PyTorch, nên cần đọc Windows Guide chính thức trước khi sửa môi trường Python thật.

Cách chạy bằng Docker

README có ví dụ Docker image unsloth/unsloth:

docker run -d -e JUPYTER_PASSWORD="*" \
  -p 8888:8888 -p 8000:8000 -p 2222:22 \
  -v $(pwd)/work:/workspace/work \
  --gpus all \
  unsloth/unsloth

Lưu ý: JUPYTER_PASSWORD phải là mật khẩu thật của bạn, không commit vào script public. Volume $(pwd)/work:/workspace/work nghĩa là dữ liệu trong thư mục work hiện tại sẽ được mount vào container.

Cách cài Unsloth Core bằng uv

Nếu muốn dùng bản code-based trên Linux/WSL, README đưa workflow:

curl -LsSf https://astral.sh/uv/install.sh | sh
uv venv unsloth_env --python 3.13
source unsloth_env/bin/activate
uv pip install unsloth --torch-backend=auto

Đây là hướng phù hợp khi bạn viết notebook/script riêng thay vì dùng web UI.

Cách kiểm tra sau khi chạy

Sau khi chạy unsloth studio -p 8888, mở trình duyệt vào cổng 8888 trên máy local hoặc server của bạn. Nếu chạy Docker, kiểm tra container còn chạy, cổng 8888 đã map, và volume work có đúng quyền ghi.

Nếu dùng GPU, hãy kiểm tra runtime GPU trước khi kết luận Unsloth lỗi. Rất nhiều lỗi đến từ driver, CUDA/container toolkit hoặc quyền truy cập GPU.

Lỗi thường gặp

Lỗi đầu tiên là mở web UI ra internet bằng -H 0.0.0.0 mà chưa có bảo vệ. Đừng làm vậy trên VPS public nếu chưa cấu hình bảo mật.

Lỗi thứ hai là Docker GPU không nhận --gpus all. Hãy kiểm tra NVIDIA container toolkit hoặc runtime tương ứng.

Lỗi thứ ba là lẫn lộn Studio và Core. Studio là web UI; Core là code-based. Yêu cầu và cách debug khác nhau.

Lưu ý an toàn và pháp lý

Khi train model, hãy chắc bạn có quyền dùng dataset. Dữ liệu cá nhân, log khách hàng, tài liệu nội bộ hoặc nội dung bản quyền không nên đưa vào training khi chưa có chính sách rõ ràng. Nếu mở API/web UI cho nhiều người, cần kiểm soát user, mật khẩu, firewall và backup dữ liệu.

FAQ

Unsloth Studio có chạy trên macOS không?

README nói Studio beta hoạt động trên macOS và macOS hỗ trợ training, MLX và GGUF inference.

Có bắt buộc GPU không?

Không phải mọi tác vụ đều bắt buộc GPU. README nói CPU hiện hỗ trợ Chat và Data Recipes, nhưng training model lớn thường cần GPU phù hợp.

Dùng script cài có cập nhật được không?

README ghi dùng lại cùng lệnh cài nhanh để update trên macOS/Linux/WSL và Windows.