Post by 区块链行情研究: 有位中国开发者,坐跨大西洋航班,靠窗,掏出一台 MacBook Pro M4,64 GB 内存。机上全程 WiFi 要 25 美元,他没买。 没网怎么办?人家根本不慌。直接在本地跑了个 Llama 3.3 70B,bf16 精度,用 llama.cpp 推理。生成速度 71 token/秒,上下文大概 60,000 token,内存吃了 48.6 https://t.co/0sMOXYvI7v

X SOU Logo
区块链行情研究

区块链行情研究

Verified

@qkl2058

3,375Following
61,021Followers

PolyMarket官方注册链接:https://t.co/HnVzmDCauw 预测市场最快的跟单平台PolyCop:https://t.co/EgT16k3fC5 加入我的PolyMarket电报群:https://t.co/3l2msgVb3c

区块链行情研究
区块链行情研究
@qkl2058

有位中国开发者,坐跨大西洋航班,靠窗,掏出一台 MacBook Pro M4,64 GB 内存。机上全程 WiFi 要 25 美元,他没买。 没网怎么办?人家根本不慌。直接在本地跑了个 Llama 3.3 70B,bf16 精度,用 llama.cpp 推理。生成速度 71 token/秒,上下文大概 60,000 token,内存吃了 48.6 [ 网页链接 ↗ ]

Video preview: 有位中国开发者,坐跨大西洋航班,靠窗,掏出一台 MacBook Pro M4,64 GB 内存。机上