您尚未登录/注册
首页>科技
约 14MB 内存运行 2.7 亿参数模型:谷歌工程师把 AI 装进打印机,每词元耗时约 60 秒
IT之家 2026-11-20 17:12:11

IT之家 11 月 20 日消息,谷歌 DeepMind 技术团队成员奥马尔 · 圣塞维耶罗(Omar Sanseviero)于 11 月 17 日在 X 平台发布推文,在只占用 14.1MB 内存的情况下,成功让办公激光打印机运行 2.7 亿参数的 Gemma 3 270M 模型,每输出一个词元(Token)消耗约 60 秒。

圣塞维耶罗借助谷歌的 Gemini 4 Carbon 模型,探索展示了一个特别实验,将小型 Transformer 推理引擎与量化后的模型编译成一个 PostScript 打印任务。

本次实验没有修改理光打印机固件,也未加装外部计算板,而是利用打印机内置的 PostScript 解释器执行计算,让原本用于描述打印页面的语言承担起运行 AI 的工作。

为充分发挥打印机有限的内存资源,本次实验并未一次性装下整个模型,改为采用动态层加载方式,轮流将模型各层调入、移出内存,该实验运行时峰值占用约为 14.1MB。IT之家附上相关截图如下:

性能输出方面,本次实验处理速度约为每个词元 60 秒(不是每秒 60 个词元)。报道称整个计算发生在打印机内部,由打印机的 CPU 执行 PostScript 程序,再把答案交给打印机打印,模型推理涉及 18 个 Transformer 网络层。

在预填充(prefill)阶段,处理输入提示“Read the fine”耗时约 184 秒,而解码(decode)单个生成词元耗时 0.1 秒,总计 184.1 秒。

【版权声明】本文内容来源于IT之家,版权归原作者及原媒体所有。本站仅作信息分享,不构成任何商业用途;如涉版权问题,请联系本站删除。

发布时间:2026-11-20 15:10:05


(第1/1页/共1380字/4阅)
首页>科技
相关科技:
“AI央行”开启量化紧缩!英伟达新CEO收紧投资闸门,Neocloud融资命脉告急
在欧洲,物流仓库开始和数据中心抢电了
V观财报|探路者:暂无智能穿戴相关芯片等流片计划
黄仁勋辞职:马斯克还在掌舵,他却走了,差在哪? 11月12日,英伟达宣布黄仁勋辞去CEO,我卖了一…
剑桥科技回应:砍单传闻不实 高速光模块订单需求旺盛已做好批量交付准备
*QQ注册登录与修改密码方法
网友评论:
更多评论(0)
您的评论:

[热点科技]
吸引中长期资金入市还需增加股市的赚钱效应
英伟达风波冲击全球算力格局,国产算力有望迎来重估契机
中信建投:注意估值风格切换的年末行情特征
“穷鬼超市”,开启巷战
国家发改委,释放四大重磅信号
[精彩推荐]
又一场“天价豪赌”来了
APEC效应给文旅产业带来什么启示?对话中国人民大学宋洋洋
微软裁员六万的背后:大学别再培养标准化的“可替换零件”
古人用尿和海螺染出来的贵族紫,我们在家复刻成功了
35岁浙江女子备孕10年未怀上,子宫内竟长出“骨头”,医生:这种罕见病隐匿性强,极易漏诊