FEATURED ARTICLE / 01

INSIGHT / REPORT / UPDATE

深度资讯 新闻中心

180B级!业内首款国产“TokenStation”工作站来了!

问鼎国际体育赛事平台编辑部 694 阅读 约 5.5 分钟

对工业设计团队来说,用AI分析项目资料时,有个很实际的问题。图纸和技术文件需要留在本地,手边的电脑却未必跑得动处理复杂任务所需的大模型。 中科可控的TokenStation W50X给出了一种桌面方案。作为业内首款国产TokenStation工作站,W50X支持在本地运行180B级MoE模型,也就是总参数量约1800亿的混合专家模型。 把这么大的模型放到工位旁,首先要解决的是容量。模型的权重放在哪里,推理时又怎么及时读到? 超大内存,让180B级大模型在桌面常驻 受算力和显存限制,过去桌面端通常部署27B级及以下的模型。W50X把本地推理支持的模型规模推到了180B级。这里有一个技术细节。MoE模型每生成一个Token,只调用一部分专家参与计算,但每一步用到的专家可能不同。要让模型连续输出,整套专家权重都需要随时可取。 如果每次用到新的专家,都要临时从SSD读取权重,生成速度就容易忽快忽慢。W50X采用最高1TB的企业级内存,配合国产AI算力卡的高速显存,让整套专家权重可以常驻在内存和显存中。其中,大容量内存提供存放权重所需的空间,高速显存承担高频访问,减少从SSD反复读取权重带来的等待。 拿一份技术文档来说,第一轮可以让模型找出关键条款,下一轮再让它结合前文,解释两条要求之间的关系。这个过程中,模型会用到一块叫KV Cache的缓存。它保存模型处理前文时产生的中间结果,让模型继续生成时可以复用。文档越长、追问越多,缓存占用的空间也就越大。 这就是大模型装进工作站后,还需要给实际任务留出空间的原因。W50X的内存和显存组合,在容纳180B级模型权重的同时,也为长上下文缓存留出了余量。团队可以在本机围绕同一份长文档连续提问。如果工作中需要在不同模型之间切换,或者同时运行领域知识库,更大的容量也为这些任务留出了空间。 从本地推理到3D建模,一台工作站都能接 对设计师来说,同一台工作站可以先用大模型查阅项目资料,再用熟悉的专业软件继续建模。整个过程中,项目文件可以留在本机。按需扩展高性能显卡后,W50X还可以承担工业建模、3D绘图和视频剪辑等工作。 要在办公室里长期使用,工作站还得兼顾可靠性和噪声。W50X采用企业级部件和服务器级RAS机制,为长时间运行提供硬件保障。处理器最高支持64线程,可应对复杂并行任务。按产品资料,整机满载噪声低于40 dB,适合部署在工位旁。 对设计团队、开发者和小型工作室来说,W50X带来的变化很具体。原本需要调动云端算力的一部分大模型推理任务,现在可以在日常工作的那台机器上完成。想看看它能接住多少工作,试用时可以带上一份平时最难处理的长文档,按自己的工作习惯连续追问几轮。 目前,中科可控已开放W50X免费试用申请,面向渠道伙伴的工作站招募“引力计划”也在持续进行中。 加入【引力计划】申请工作站免费试用 特别

about image

分享这篇内容

如果文章对您有所帮助,欢迎将它分享给更多读者。

RELATED READING / 02

推荐阅读

从相近主题、延伸观点和最新动态中继续阅读,了解更多相关信息。

DISCOVERY BOARD / 03

继续发现

通过栏目导航和热点内容,快速进入更多文章页面。

热点新闻

杜兰特只投9发,火箭也能破雷霆?

杜兰特只投9发,火箭也能破雷霆?

火箭大胜雷霆21分。 杜兰特9投4中14分: 六场比赛第二次个位数投篮 。上季78场,只一场个位数投篮。 反过来: 贾巴里·史密斯和斯玛特,合计13个三分球得到54分。申京16分9篮板9助攻。 是火箭不需要杜兰特了吗? 上季火箭场均: 杜兰特18投26分5助攻。 申京16投20分6助攻。 阿门13投18分5助攻。 贾巴里13投16分2助攻。 谢泼德12投14分3助攻。 全队场均25助攻。 本季火箭
[流言板]范甘迪:威少和艾弗森是我三十年NBA生涯见过最强的竞争者

[流言板]范甘迪:威少和艾弗森是我三十年NBA生涯见过最强的竞争者

社区 » NBA » 篮球资讯 » [流言板]范甘迪:威... 虎扑篮球资讯(1280级)楼主2026-11-04 09:52:44发布于上海 [流言板]范甘迪:威少和艾弗森是我三十年NBA生涯见过最强的竞争者由虎扑篮球资讯 发表在篮球资讯 https://bbs.hupu.com/502 前NBA主教练斯坦-范甘迪谈到了拉塞尔-威斯布鲁克和阿伦-艾弗森的竞争精神,并将两人列为自己在NBA三十年经
插上U盘就能扩容?iPhone的USB-C口没那么简单

插上U盘就能扩容?iPhone的USB-C口没那么简单

iPhone 15系列是首批配备USB-C接口的iPhone,但如果这个口只用来充电,那它的能力基本被浪费了。USB-C的好处在于,市面上已经有无数设备和配件可以插进去——这正是"通用"接口的意义。对iPhone来说,用别人的线充电只是起点,真正的乐趣从插上外部存储开始。 不过,把USB-C优盘插进iPhone是一回事,能怎么用是另一回事,而且取决于你手里是哪台iPhone。速度差异是第一个分水岭
江苏女子飞石家庄抢挖2公斤陨石,这石头到底算谁的,值多少钱

江苏女子飞石家庄抢挖2公斤陨石,这石头到底算谁的,值多少钱

捡到的陨石该归谁?河北石家庄在发生火流星陨石坠落后,一名江苏女子第一时间就得知此事,第一时间就来到现场并挖走了2公斤多的陨石,而大家最好奇的,就是陨石归谁,这些值多少钱 据悉,这位陆女士是陨石收藏者,事情发生后,她坐飞机加出租车,折腾五六个小时,赶到现场挖走了三四块石头,一共两公斤多。她说这是普通球粒陨石,科研价值不算高,但能捡到新鲜掉下来的,概率极小,纯属运气 先说值钱这事。普通球粒陨石跟很多人
面向全球招生,李书福要筹办一所新大学

面向全球招生,李书福要筹办一所新大学

新京报贝壳财经讯(记者张冰)11月20日,由吉利人才发展集团发起并主办的高等教育领域国际性论坛——2026芯位教育论坛在海南三亚举办。作为论坛发起者,吉利控股集团董事长李书福表示,当前世界正面临新型全球化与地缘政治挑战,为此吉利作为全球化企业“在确保全球合规经营的前提下,必须尽快培养新型全球化人才”。他透露,吉利旗下芯位科技筹备建设芯位大学,由吉利人才集团支持其本、硕、博学科建设,吉利控股集团将全