行业动态 · NEWS

行业动态 · 第 16 页

与「数据安全 · 云端可用性 · 本地化 AI」密切相关的重大公开事件,以及机悟的合规解读——只陈述事实,不预设任何厂商的法律定性。

最新更新 2026-11-22 · 共 222 条 · 第 16 / 23 页 · 持续更新

如何从手机桌面直达 JAVIS 行业动态
安卓:浏览器打开 jiwu.org.cn → 右上角菜单(⋮ 或 ☰)→「安装应用」或「添加到主屏幕」
苹果:Safari 打开 jiwu.org.cn → 底部分享(↑ 方框图标)→「添加到主屏幕」
装好后:点桌面「机悟JAVIS」图标即全屏 App,底栏中央圆钮一键直达本栏目
本栏目每日更新,让您跟上AI前沿!
全部动态 · 第 16 页
2026-10-23

一张 640×480 的图 3.43 秒出结果:Swift-1.5-Qwen3.8-27B 在 24 GB 消费卡上的实测

Swift-1.5-Qwen3.8-27B(dense+SSM 27B,Q4_K_M 17.44 GB + 视觉编码器 0.93 GB)在单张 RX 7900 XTX 24 GB 上的实测:MTP n=2 解码 67.2 ± 1.0 tok/s,llama-bench pp512 921(私有 Mesa 26.2.5,比系统 Mesa 24.3 的 677 高 36%);视觉往返 3.43 秒(编码器在 GPU)对 15.0–16.1 秒(编码器留 CPU),差 4.4 倍;显存三档为 100K/112K/128K 对应 21.98 / 22.58 / 23.19 GB。含两个「假故障」排查与适用场景。

阅读全文 →
2026-10-23

消费硬件上的本地大模型实测:最快 130 tok/s、最慢 25 tok/s

三台消费级机器、9 个模型配置、四个维度的横向对照(自有设备自测):GLM-4.7-Flash 20 GB 在 128K 上下文 130.0 tok/s;Flash-Next 93.7 GB 撑到 256K 仍有 62.3 tok/s;今天刚跑到的 134.1 GB Q5_K_M 靠 90 GiB 常驻预算稳在 43–45 tok/s;27B Dense 短提示 68.7 但 60K 掉到 51.1。快慢主要由量化方式与常驻预算决定,不是参数量;口径互不相同,不可横向排名。

阅读全文 →
2026-10-23

94 GB 的模型塞进 24 GB 消费显卡:Qwen3.8-Flash-Next 跑满 256K 上下文,15 项真实任务全过

自有设备自测记录:i7-14700F + 单张 RX 7900 XTX 24 GB、125.6 GiB 内存,把 93.7 GB 的 Qwen3.8-Flash-Next(UD-IQ4_XS,MoE)跑到 262,144 上下文,1k→256k 解码稳定 62–76 tok/s;MMLU-Pro 200 题 56.5%–63.5%、GSM8K 40 题 97.5%–100%、MATH-500 30 题 76.7%,15 项真实工具任务 15/15;27B Dense 短提示更快但 60k 掉到 51.1 tok/s。含 MTP +82%、Mesa 26.2.5 预填 +36% 与两条诚实边界。

阅读全文 →
2026-10-22

一边是 1399 万的整包,一边是月租一两百元的席位:政务 AI 采购已经分成两条路

中国政府采购网 10-21 一天挂出两单:张家港市公安局「大模型视图分析(一期)」1399 万元(品目「服务器」,紫光汇智中标,95.53 分)、厦门市健康医疗大数据中心「人工智能医疗大模型底座与应用工程一期」1058 万元(智谱华章中标,97.50 分,11 个月上线试运行、售后≥2 年)。同日中国经济时报的报道给的是另一套账:政务智能体单席位月成本仅一两百元、省级统一谈价、市县按席位结算。整包私有化与席位订阅并行,报价单要按两条路各排一遍。

阅读全文 →
2026-10-22

内存一年涨 300%、5090 年内涨 150%:本地部署的报价单,现在只能按周签

深圳商报 10-21 华强北实地走访:DDR5 16G 从一年前 200 多元涨到 1300 元以上,32GB DDR5 报 2100–3800 元,DDR4 16G 从不足 200 元涨到 530–600 元;RTX 5090 从 1 月 1 日的 2.2 万元涨到 5.5 万元(年内 +150%),10 月 12 日起十天内涨 1.5 万元,5080 十天翻倍。同日集邦预估四季度 DRAM 合约价环比再涨约 20%,戴尔 CEO 称过去 12 个月内存涨近 500%、新增产能要等 2029–2030 年。对要攒机器跑本地模型的单位,这笔账要重算了。

阅读全文 →
2026-10-22

vLLM 与蚂蚁开源量化推理内核 Humming:国产加速卡第一次进了支持列表

10 月 21 日蚂蚁集团与 vLLM 社区开源通用量化推理内核库 Humming:设备侧支持 NVIDIA Turing 及以后架构与 CUDA 兼容设备(点名平头哥真武 810E),一套架构覆盖整型/浮点、多位宽与多种缩放方案的权重与激活组合,dense 与 MoE 都在范围内。官方口径:DeepSeek-V4.1-Flash 的 MoE 从 Marlin W4A16 切到 Humming W4A8,端到端吞吐提升约 14%–43%、首 token 延迟下降 25%–32%,并发 64 时输出吞吐 442.37→633.94 tokens/s;vLLM 0.29.0 起 CUDA 安装默认内置。

阅读全文 →

第 16 / 23 页 · 共 222 条 · 每页 10 条

本板块持续收录与「数据安全、私有化部署、国产化」密切相关的重大公开事件及机悟的合规解读,只陈述公开事实与来源。如需转载或引用,请与我们联系。第三方统计类数字均为方向性估算,来源与口径随文标注。

看完这则动态,再问一句:您的数据现在停在哪台机器上?

把大模型部署在您自己的内网:断网可用、结论可溯源、全程可审计。一次 40 分钟免费评估,现有设备能跑什么、缺什么、费用怎么算、怎么验——白纸黑字,先 POC,效果确认再谈采购。