embedding太慢,解决方法

import torch

device = "mps" if torch.backends.mps.is_available() else "cpu"

embed_model = HuggingFaceEmbedding(
    model_name="BAAI/bge-large-zh-v1.5",
    device=device,
    embed_batch_size=16, 
)

同时确认
python - <<EOF
import torch
print(torch.backends.mps.is_available())
EOF
看到True
才说明你真的在用 Apple GPU
全部评论
苹果GPU炼丹日常踩坑
点赞 回复 分享
发布于 01-19 17:00 四川
慢慢调,总会快的
点赞 回复 分享
发布于 01-19 17:00 河北

相关推荐

joecii:如果没有工资,那可能没有工资是这家公司最小的问题了
找实习记录
点赞 评论 收藏
分享
评论
点赞
收藏
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务