查看: 3|回复: 0

gHB代购app官网《水径不深》

[复制链接]

4万

主题

0

回帖

13万

积分

论坛元老

积分
135176
发表于 昨天 19:55 | 显示全部楼层 |阅读模式
gHB代购app官网(下单网站→ cuiyao999.com)DeepSeek 70B 这样的模型对于整个系统已经有一定压力了,查看任务管理器,虽然模型推理阶段的 CPU 占用仅为 3??但内存占用达到了 40?约 13GB 大小。GPU 占用更是达到了 100?其中专用 GPU 内存的 96GB 几乎占用了一半,达到了 43.7GB,可见这个量级的大模型还是很吃 GPU 和显存的。(下单网站→ cuiyao999.com)gHB代购app官网(下单网站→ cuiyao999.com)
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:admin@discuz.vip

Powered by Discuz! X5.0 © 2001-2025 Discuz! Team.

在本版发帖
关注公众号
返回顶部
快速回复 返回顶部 返回列表