Lewati ke konten utama

vLLM

vLLM adalah pustaka sumber terbuka untuk menjalankan inferensi model bahasa besar dan menyajikannya melalui layanan.

Repositori resmi memberikan gambaran proyek yang bermula di UC Berkeley Sky Computing Lab serta menautkan dokumentasi penggunaan dan forum pengembang.

Kontributor vLLM. Cuplikan dokumentasi resmi, 7 November 2026. Apache 2.0

Situs web: vllm.ai

Rujukan: Sumber cuplikan

Kode
github.com
Cuplikan sumber — vLLM
Cuplikan sumberKunjungi sumber ↗

Situs terkait