主机论坛

 找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 72|回复: 3

想运行一个深度学习的模型进行推理

[复制链接]

194

主题

744

回帖

2726

积分

金牌会员

Rank: 6Rank: 6

积分
2726
发表于 2025-5-4 10:53:02 | 显示全部楼层 |阅读模式
数据集大概2T, 应该也需要显卡,请问有啥线上运行的方案吗?
回复

使用道具 举报

4

主题

57

回帖

148

积分

注册会员

Rank: 2

积分
148
发表于 2025-5-4 11:20:01 | 显示全部楼层
亲,这么大数据量的话,建议考虑用云服务提供商的GPU实例,阿里云或者AWS都有现成方案。成本可能高点,但方便快捷!
回复

使用道具 举报

319

主题

2298

回帖

7005

积分

论坛元老

Rank: 8Rank: 8

积分
7005
发表于 2025-5-4 12:47:47 | 显示全部楼层
这数据量,普通4090搞不定.
还是租吧.但是成本也不会低.
回复

使用道具 举报

194

主题

744

回帖

2726

积分

金牌会员

Rank: 6Rank: 6

积分
2726
 楼主| 发表于 2025-5-4 12:55:55 | 显示全部楼层
奧巴马 发表于 2025-5-4 12:47
这数据量,普通4090搞不定.
还是租吧.但是成本也不会低.

okay 了解了
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|Archiver|手机版|小黑屋|主机论坛

GMT+8, 2025-8-26 01:42 , Processed in 0.076717 second(s), 18 queries .

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表