Facebook教计算机视觉系统如何监督自己的学习过程
如今,像AI系统一样令人印象深刻的功能是,教学机器可以执行各种任务,无论是实时翻译语音还是准确区分吉娃娃和蓝莓松饼。但是,该过程仍然需要人工培训人员进行大量的握持和数据整理。然而,已经彻底改变了自然语言处理方式的自我监督学习(SSL)方法的出现,可能成为将AI赋予一些急需的常识的关键。Facebook的AI研究部门(FAIR)首次将SSL应用于计算机视觉培训。
“我们已经开发了SEER(SElf-supERvised),这是一种新的具有十亿参数的自我监督计算机视觉模型,可以从互联网上的任意随机图像组中学习,而无需仔细进行大多数计算机视觉中的策展和标记工作今天进行培训,” Facebook AI研究人员在周四的博客文章中写道。在SEER案例中,Facebook向其展示了超过十亿张随机,未标记和未策划的公开Instagram图片。
在有监督的学习计划下,Facebook AI首席科学家Yann LeCunn告诉Engadget:“要识别语音,您需要标记发音的单词;如果要翻译,则需要使用平行文本。要识别图像,您需要在每张图像上贴上标签。”
LeCunn解释说,另一方面,无监督学习是“试图以适当的方式训练系统来表示图像而不需要标记图像的问题。” 一种这样的方法是联合嵌入,其中向神经网络呈现一对几乎相同的图像-原始图像以及经过稍微修改和变形的副本。LeCunn说:“您对系统进行训练,以使由这两个元素产生的任何矢量都应尽可能彼此接近。” “然后,问题是要确保当系统显示两个不同的图像时,它会产生不同的矢量,也就是我们所说的不同的'嵌入'。一种非常自然的方法是随机选择数百万对您知道不同的图像,通过网络运行它们,并希望获得最好的图像。” 然而,
将NLP中使用的相同SSL技术应用于计算机视觉提出了其他挑战。如LeCunn所述,语义语言概念很容易分解为单词和离散短语。“但是对于图像,算法必须决定哪个像素属于哪个概念。此外,相同的概念在图像之间会有很大的不同,例如以不同姿势或从不同角度观看的猫。”他写道。“我们需要查看大量图像以掌握围绕单个概念的变化。”
为了使这种训练方法有效,研究人员既需要足够灵活以从大量未注释图像中学习的算法,又需要能够对算法生成的数据进行分类的复杂网络。Facebook在最近发布的内容中找到了前者弹道导弹根据LeCunn的说法,“使用在线聚类快速将具有相似视觉概念的图像分组并利用它们的相似性”,比以前的最新技术快六倍。后者可以在RegNets中找到,RegNets是一个复杂的网络,可以将数十亿(如果不是万亿)的参数应用于训练模型,同时根据可用的计算资源来优化其功能。
这个新系统的结果令人印象深刻。经过十亿参数的预培训之后,SEER设法超越了ImageNet上最先进的自我监督系统,得分为84.2%top-1精度。即使仅使用原始数据集的10%对其进行训练,SEER仍可达到77.9%的准确性。而且,当仅使用OG数据集的1%时,SEER仍然可以达到60.5%的top-1准确性。
本质上,这项研究表明,与NLP培训一样,无监督学习方法可以有效地应用于计算机视觉应用。通过增加灵活性,Facebook和其他社交媒体平台应具有更好的能力来处理被禁止的内容。
LeCunn说:“我们想要拥有的东西,在某种程度上已经有了,但是我们需要改进的是一个通用的图像理解系统。” “因此,每当您在Facebook上上传照片或图像时,该系统都会计算其中的一个嵌入内容,由此我们可以告诉您这是一张猫的照片,或者,您知道这是恐怖分子的宣传。”
与其他AI研究一样,LeCunn的团队也在开源许可下发布其研究和SEER的培训库,称为VISSL。如果您有兴趣让系统旋转,请前往VISSL网站 以获得其他文档并获取其GitHub代码。
免责声明:本文由用户上传,与本网站立场无关。财经信息仅供读者参考,并不构成投资建议。投资者据此操作,风险自担。 如有侵权请联系删除!
-
万象汽车试驾,轻松搞定试驾。只需几步,即可开启您的驾驶体验之旅。首先,通过官网或APP预约试驾时间,选择心...浏览全文>>
-
北汽瑞翔试驾流程主要包括以下几个步骤:首先,客户到达4S店后,由销售顾问接待并了解客户需求。随后,销售顾...浏览全文>>
-
试驾MG4 EV全攻略:MG4 EV是一款主打年轻、智能与续航的纯电车型。外观时尚,车身紧凑,适合城市通勤。内饰...浏览全文>>
-
预约试驾奥迪SQ5 Sportback,可线上与线下结合操作。首先,访问奥迪官网或官方APP,选择“试驾预约”,填写个...浏览全文>>
-
红旗试驾预约通常需要以下条件:1 年龄要求:申请人需年满18周岁,部分门店可能要求20岁以上。2 驾驶证...浏览全文>>
-
特斯拉试驾全攻略试驾特斯拉前,建议提前在官网预约,选择最近的体验中心。到店后,工作人员会引导你完成基础...浏览全文>>
-
宝马预约试驾全攻略想要体验宝马的驾驶乐趣?提前预约试驾是关键。首先,访问宝马官网或使用“宝马中国”官方A...浏览全文>>
-
道郎格试驾,感受豪华与科技的完美融合。一进入车内,高端质感扑面而来,真皮座椅、精致内饰,尽显奢华。智能...浏览全文>>
-
预约奇瑞新能源试驾,新手可按以下步骤操作:1 选择车型:登录奇瑞官网或官方App,浏览新能源车型,如艾瑞...浏览全文>>
-
奔驰GLE试驾预约,开启非凡旅程。作为豪华SUV的典范,GLE集优雅设计与强大性能于一身,为您带来前所未有的驾驶...浏览全文>>
- 特斯拉试驾全攻略
- 宝马预约试驾全攻略
- 奔驰GLE试驾预约,畅享豪华驾乘,体验卓越性能
- 零跑C16试驾全攻略
- 试驾海豚,轻松几步,畅享豪华驾乘
- 奇瑞预约试驾的流程及注意事项
- 小鹏G7试驾,新手必知的详细步骤
- 如何在 IPHONE 16E 和 IPHONE 16 之间进行选择
- 这个隐藏的 ANDROID 设置可以释放大屏幕的全部潜力
- 三星 ONE UI 7 更新:比预期更早到来
- IPHONE 15 PRO 和 PRO MAX 将很快获得视觉智能
- 使用这些必备的 ANDROID 应用程序改变你的主屏幕
- PS5 PRO 销量与 PS4 PRO 竞争
- 超薄 Galaxy S25 Edge揭晓其新功能
- Android 15 QPR2 Beta 2.1 将修复与崩溃相关的问题
- Garmin 的 Fenix 7 Pro Sapphire Solar 降至 591 美元
- Galaxy S25 Ultra 的 S Pen 可能会失去蓝牙功能
- 惠普在 CES 上推出搭载 Copilot+ 的全新一体机和迷你电脑
- 首批 Galaxy S25 系列壁纸来了 但只有两张
- 1,000 马力的 911 Turbo S GT-R 与杜卡迪一较高下