群晖、NAS、PVE、飞牛、二手品牌机、垃圾佬

每一位热爱生活的垃圾佬都值得敬畏

I bet!这款机器你绝对没见过!类似于显卡的“迷你主机”,1.55升的小巧体积,塞进了5070级别算力+128G内存

内容目录 I bet!这款机器你绝对没见过!类似于显卡的“迷你主机”,1.55升的小巧体积,塞进了5070级别 […]
内容目录

I bet!这款机器你绝对没见过!类似于显卡的“迷你主机”,1.55升的小巧体积,塞进了5070级别算力+128G内存

文/勤奋的森森景同学

这里是勤奋的凯尔森同学,博主这里全是颜值与好玩并存的数码好物,每期都是经过精挑细选的,并且期期不重样。点点关注不迷路。B站、小红书、微博、小黄鱼等社交账号同名。博主的文章排版也很好、照片也是精挑细选,给读者最佳的阅读体验。

今天给大家亮个眼,介绍一款不多见的超级算力开发套件NVIDIA Jetson AGX Thor,它凭借着243.19×112.40×56.88mm的三围尺寸,大概也就1.55升的小巧体积,却拥有着2070TFLOPS算力的强大性能,可以说是AI时代霸气侧漏的产物。

这款显卡的外观有着和公版40系列有着异曲同工之妙,有着黑色的煤气灶特色,但银色的外观加上这个黑色的煤气灶散热孔,给人一种别样的美感,简约不简单,有着一股浓烈的高冷范儿。

01

Jetson AGX Thor套件的三维尺寸仅为243.19×112.40×56.88mm,大概也就类似于一张显卡的尺寸,GPU性能大致介于RTX5060和RTX5070之间,在AI推理任务上接近RTX5070,在传统游戏性能上相当于RTX4060Ti,这么个小巧玩意确实让人眼前一亮。因为它除了GPU外还有着14核心的CPU,WiFi6,1TB固态,另外还有着128GB 256位LPDDR5X、273GB/s带宽的内存,它完全可以运行Ubuntu26.04,你把它称为一台性能强劲的mini主机也一点不为过。

02

接口方面,机器底部有着DC电源接口、QSFP28连接器、DP接口、HDMI接口、RJ45(5Gbe)、2xUSB,上方是风扇散热。机器顶部有着power、Recovery、Rest按键以及power指示灯。其中QSFP28是 Jetson AGX Thor上最具革命性的接口,它将原本只有数据中心级设备才有的100Gbps高速网络能力带入了边缘计算平台,是Thor能够胜任人形机器人 "大脑" 角色的关键硬件支撑。

03

Jetson AGX Thor出产自带Ubuntu24.04的环境,自带运行基于 Ubuntu 24.04 LTS 的 JetPack 7 SDK,提供统一的 CUDA 13.0 开发环境,支持从云端到边缘的无缝模型部署,做到了开箱即用。

04

Jetson AGX Thor拥有着2070 TFLOPS (FP4 稀疏)、1035 TFLOPS (FP4 稠密 / FP8 稀疏 / INT8 稀疏)、517 TFLOPS (FP8 稠密 / FP16 稀疏)算力,并且有着128G内存,完全可以利用ollama部署本地大模型。

可流畅运行的主流模型

模型规模 量化精度 可运行模型 实测推理速度
100B + 级 Q4_K_M Llama 3.3 128B、Qwen 3 110B、DeepSeek V3 128B 15-25 token/s
70B 级 FP4/Q4_K_M Llama 3.3 70B、Qwen 3 72B、DeepSeek R1 70B、Gemma 4 70B 40-90 token/sNVIDIA 开发者
30-40B 级 FP8/Q8_0 Qwen 3 32B、Llama 3.1 40B、Phi 4 34B、Mistral 8x7B 80-120 token/s
8-14B 级 FP8 Qwen 3 14B、Llama 3.2 11B、Gemma 3 12B、DeepSeek Coder V2 16B 150-200 token/s
小模型 FP8 Qwen 3 7B、Llama 3.1 8B、Phi 3.5 7B 250+ token/s

Jetson AGX Thor的 GPU 理论 FP32 算力约 25.6 TFLOPS,相当于桌面级 RTX 4060 Ti,但由于架构差异和驱动优化限制,实际游戏表现会略低于同算力的消费级显卡。

在黑神话悟空中的表现

分辨率 画质设置 帧率 体验说明
1080P 中低画质 + FSR 4 质量模式 45-55 FPS 基本可玩,战斗场景略有卡顿
1080P 低画质 + FSR 4 性能模式 60-70 FPS 流畅体验,无明显卡顿
1440P 低画质 + FSR 4 性能模式 30-40 FPS 勉强可玩,不推荐

这款机器最主要的功能还是人行机器人的应用场景,如果你用来打游戏有种暴殄天物的feel,不带这么糟蹋显卡算力的。

05

Jetson AGX Thor不是一台普通的迷你主机,而是一台专为 AI 和机器人设计的边缘计算平台。如果你需要本地运行大模型、进行AI开发或构建机器人系统,它是目前最好的选择。但如果你主要用来玩游戏或运行Windows软件,那么普通的x86迷你主机、游戏主机更适合你。如果你用来做NAS或者软路由,阿西吧,你是恶魔撒旦,暴殄天物,鉴定完毕。

发表回复