科学网

 找回密码
  注册

blog 博文

最新发表的博文| 推荐阅读的博文

中国医学科学院系统医学研究院/苏州系统医学研究所全球英才招聘公告
人才招聘 2025-7-8 14:18
系统院诚邀全球英才, 相聚苏州,共赢未来! 单位简介 中国医学科学院系统医学研究院/苏州系统医学研究所(简称系统院)位于苏州独墅湖科教创新区,毗邻苏州工业园区生物医药产业园,是由中国医学科学院北京协和医学院(简称院校)与地方政府合作共建的国家级医学研究机构。系统院现有场地建筑 ...
65 次阅读|没有评论
关于ISO 25718《非多孔材料表面抗空气传播的病毒活性测试方法》国际标准启动会暨第一次起草工作会议的通知
张迎增 2025-7-8 14:12
各相关单位: 中国牵头提出的国际标准《非多孔材料表面抗空气传播的病毒活性测试方法》提案已经通过ISO/TC 330 Surfaces with biocidal and antimicrobial properties(具有生物杀灭和抗菌性能的表面技术委员会)全球成员国投票,正式立项为 ISO国际标准项目——ISO 25718 Test method of antiviral activity of a no ...
29 次阅读|没有评论
GPT作为序列数据的无损压缩器
李维 2025-7-8 14:04
预测下一词的自回归大模型GPT早已风靡全球。压缩即智能的说法已经广为人知,但关于其无损压缩的能力貌似一直有争议。GPT压缩到底是无损还是有损呢? 这是一个非常值得打破沙锅问到底的问题,它正好切入了LLM压缩最核心、也最巧妙的部分。我们来把这个过程彻底拆解一下,让它变得清晰易懂。 一个直观的比喻:在无限的图书 ...
71 次阅读|没有评论
与尼克等老友唠大模型压缩理论
李维 2025-7-8 14:02
1. 为什么中心节点看起来最“省比特” 在语义压缩框架里,发送端和接收端都共享一个超大的知识库(也就是大语言模型GPT本身)。只要两边都装好了这台“超级预言机”,你就只需要传那些 模型无法直接预测 的信息——往往是微小的差异。 模型分发成本 :把模型先安置到两端,是一次性“沉没成本”。 消息传输 ...
73 次阅读|没有评论
破除“无损压缩即智能”的迷思
李维 2025-7-8 14:00
立委按:这两天跟大模型压缩理论干上了,发现,这里面目前在市面上仍然充满了迷思和误解。要命的是,压缩问题是大模型革命的首要问题,反映了大模型背后的奥秘和上帝之光。感觉到了正本清源的时候。 我以为,当代生成式AI及其大模型的大爆发,其中有两个相互关联的核心问题,最值得花时间搞明白,否则就好比允许自己生活 ...
98 次阅读|没有评论
Demystifying the misconception of "Lossless Compression as I
李维 2025-7-8 13:58
Demystifying the misconception of Lossless Compression as Intelligence DebatesonLLMcompressiontheoryrevealpersistentmisconceptions.Crucially,compressionliesattheheartoftheLLMrevolution—illum ...
90 次阅读|没有评论

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2025-7-8 14:46

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部