本文提出了一种新颖的决策边界感知蒸馏方法,用于实例增量学习,无需访问旧数据。本文提出了一种新颖的决策边界感知蒸馏方法,用于实例增量学习,无需访问旧数据。

医学图像合成:用于RUSS和分割的S-CycleGAN

摘要和1 引言

  1. 相关工作

  2. 问题设定

  3. 方法论

    4.1. 决策边界感知蒸馏

    4.2. 知识巩固

  4. 实验结果和5.1. 实验设置

    5.2. 与最先进方法的比较

    5.3. 消融研究

  5. 结论和未来工作及参考文献

    \

补充材料

  1. IIL中KCEMA机制理论分析的详细信息
  2. 算法概述
  3. 数据集详情
  4. 实现细节
  5. 灰尘输入图像的可视化
  6. 更多实验结果

4. 方法论

如图2(a)所示,新观察中概念漂移的出现导致现有模型失效的外部样本的出现。新的IIL必须扩大决策边界以包含这些外部样本,同时避免在旧边界上发生灾难性遗忘(CF)。传统的基于知识蒸馏的方法依赖于一些保留的样例[22]或辅助数据[33, 34]来抵抗CF。然而,在所提出的IIL设置中,除了新的观察外,我们无法访问任何旧数据。如果不向模型添加新参数,基于这些新观察的蒸馏与学习新知识相冲突。为了在学习和不遗忘之间取得平衡,我们提出了一种不需要旧数据的决策边界感知蒸馏方法。在学习过程中,学生学到的新知识会间歇性地巩固回教师模型,这带来了更好的泛化能力,是该领域的先驱尝试。

\ 图3. 比较(a)使用学生模型(S)进行推理的先前蒸馏方法和(b)具有知识巩固(KC)的所提出的决策边界感知蒸馏(DBD)。我们使用教师模型(T)进行推理。

\

:::info 作者:

(1) 聂强,香港科技大学(广州);

(2) 付伟福,腾讯优图实验室;

(3) 林宇欢,腾讯优图实验室;

(4) 李佳林,腾讯优图实验室;

(5) 周一峰,腾讯优图实验室;

(6) 刘勇,腾讯优图实验室;

(7) 聂强,香港科技大学(广州);

(8) 王成杰,腾讯优图实验室。

:::


:::info 本论文可在arxiv上获取,遵循CC BY-NC-ND 4.0 Deed(署名-非商业性使用-禁止演绎4.0国际)许可协议。

:::

\

免责声明: 本网站转载的文章均来源于公开平台,仅供参考。这些文章不代表 MEXC 的观点或意见。所有版权归原作者所有。如果您认为任何转载文章侵犯了第三方权利,请联系 [email protected] 以便将其删除。MEXC 不对转载文章的及时性、准确性或完整性作出任何陈述或保证,并且不对基于此类内容所采取的任何行动或决定承担责任。转载材料仅供参考,不构成任何商业、金融、法律和/或税务决策的建议、认可或依据。

您可能也会喜欢

比特币8%涨幅已使2025年9月成为其第二好月份

比特币8%涨幅已使2025年9月成为其第二好月份

比特币8%涨幅已使2025年9月成为其历史第二佳表现出现在BitcoinEthereumNews.com。要点:比特币逆季节性趋势上涨8%,使今年9月成为自2012年以来表现最佳的9月。2025年9月需要看到20%的上涨才能成为比特币有史以来最强劲的月份。BTC价格波动性处于罕见的低水平,这在牛市周期中非常不寻常。比特币(BTC)今年9月的涨幅超过了自2012年以来的任何一年,创下新的牛市记录。来自CoinGlass和BiTBO的历史价格数据确认,以8%的涨幅计,比特币2025年9月的上涨是有史以来第二好的。比特币以8%的涨幅避开了"崩溃9月"9月传统上是比特币表现最弱的月份,平均亏损约为8%。BTC/USD月度回报(截图)。来源:CoinGlass今年,BTC价格的季节性表现至关重要,因为历史模式预示着下一个牛市高峰,而其他风险资产则不断创下新的历史高点。当黄金和标普500指数都在探索价格新高时,BTC/USD在创下自己的新高后,整个9月都处于盘整状态。然而,即使"仅"有8%的涨幅,今年9月的表现目前足以使其成为13年来比特币表现最强的9月。一年中第九个月对比特币多头最有利可图的唯一一次是在2012年,当时BTC/USD上涨了约19.8%。去年,涨幅最高达到7.3%。BTC/USD月度回报。来源:BiTBO BTC价格波动性消失这些数据凸显了比特币牛市高峰年的高度不寻常特性。相关:BTC"定价"即将到来的内容:本周了解比特币的5件事与之前的牛市不同,BTC价格波动性在2025年已经消失,这与长期市场参与者基于过往表现的预期相反。CoinGlass数据显示,波动性下降至十多年来未见的水平,从4月开始出现特别明显的下降。比特币历史波动性(截图)。来源:CoinGlass同时,链上分析公司Glassnode强调了...
分享
BitcoinEthereumNews2025/09/18 11:09
震荡市中的生存指南:如何应对政策分化、资金外流与关键技术位争夺

震荡市中的生存指南:如何应对政策分化、资金外流与关键技术位争夺

震荡市中的生存指南:如何应对政策分化、资金外流与关键技术位争夺?
分享
Jinsehot2025/12/21 11:05
慢雾 CISO:警惕某 Polymarket 跟单交易机器人程序中隐藏恶意代码窃取私钥

慢雾 CISO:警惕某 Polymarket 跟单交易机器人程序中隐藏恶意代码窃取私钥

深潮 TechFlow 消息,12 月 21 日,慢雾科技首席信息安全官23pds在X平台转发社区用户推文显示,某Polymarket跟单交易机器人程序开发者在GitHub代码中隐藏恶意代码,启动程序会自动读取用户的“.env”文件(里面有钱包私钥)、然后把私钥发送到黑客服务器并窃取私钥,导致资金被盗,该程序作者反复修
分享
Tech Flow2025/12/21 11:36