arXiv · cs.AI · Filipe Laitenberger, Hirokatsu Kataoka, Yuki Asano, Cees Snoek, Mohammadreza Salehi · 11 小时前模型评分44
BRIDGE:识别并生成欠代表数据以平衡自监督学习表征
Balancing Representations by Identifying and Generating Under-represented Data
导读
BRIDGE 提出一种无需标签的反馈闭环,用当前编码器按平均 kNN 距离为源图像打分,从支持稀疏的分数带中挑选锚点图像,再由冻结的图像到图像扩散模型生成局部变体并继续预训练。在五类长尾数据源上,BRIDGE 取得七任务线性探测与 kNN 平均最高成绩,增益可延伸至 ViT-S、低标签微调和语义分割。该方法不改动预训练目标,可直接用于未筛选网络数据的预训练。
分类置信度
中 · 待人工复核
- 只有单一媒体来源,需要人工复核。
来源级别:媒体与个人
事件类型:研究发布
证据摘录
- “We introduce BRIDGE (Balancing Representations by Identifying and Generating Under-represented Data), a label-free feedback loop around the source set.”
来源:arXiv · cs.AI · arxiv.org