vLLM这边搞好之后，我顺带跑通了AI建模工具。可惜无法用本地大模型来跑，还没弄