1. PyTorch 行业首选。让你能轻松地设计和调试复杂的神经网络模型,国内外各大厂商、院校都在使用。 2. TensorFlow 根基深厚,很多成熟的企业级应用和云服务都基于它构建。近年来逐渐被PyTorch反超。 3. LangChain 一个“应用大模型的脚手架”。它帮你把大语言模型、你的数据、各种工具像拼图一样连接起来,快速构建出功能强大的AI应用。 4. vLLM 只要是涉及部署和运营自家大模型的团队,几乎都会关注和使用vLLM,因为它直接关系到服务的响应速度和成本,是当下的热门技术。 5. DeepSpeed 一个由微软出品的“模型训练超级引擎”。它能将大模型“切块”,分...