0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

基于配准的少样本异常检测的框架

OpenCV学堂 ? 来源:机器之心 ? 作者:机器之心 ? 2022-07-27 10:27 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

近年来,异常检测在工业缺陷检测、医疗诊断,自动驾驶等领域有着广泛的应用。“异常”通常定义为 “正常” 的对立面,即所有不符合正常规范的样本。通常来说,相比于正常,异常事件的种类是不可穷尽的,且十分稀有,难以收集,因此不可能收集详尽的异常样本进行训练。因此,近期关于异常检测的研究主要致力于无监督学习,即仅使用正常样本,通过使用单类别(one-class)分类,图像重建(reconstruction),或其他自监督学习任务对正常样本进行建模,之后,通过识别不同于模型分布的样本来检测异常。

大多数现有的异常检测方法都专注于为每个异常检测任务训练一个专用模型。然而,在诸如缺陷检测之类的真实场景中,考虑到要处理数百种工业产品,为每种产品均收集大量训练集是不划算的。对此,上海交通大学 MediaBrain 团队和上海人工智能实验室智慧医疗团队等提出了一个基于配准的少样本异常检测框架,通过学习多个异常检测任务之间共享的通用模型,无需进行模型参数调整,便可将其推广到新的异常检测任务。目前,这项研究已被 ECCV2022 接收为 Oral 论文,完整训练代码及模型已经开源。

65e396e8-0cf5-11ed-ba43-dac502259ad0.png

方法简介

在这项工作中,少样本异常检测通用模型的训练受到了人类如何检测异常的启发。事实上,当尝试检测图像中的异常时,人们通常会将该检测样本与某个已经被确定为正常的样本进行比较,从而找出差异,有差异的部分就可以被认为是异常。为了实现这种类似于人类的比较的过程,本文作者采用了配准技术。本文作者认为,对于配准网络而言,只要知道如何比较两个极度相似的图像,图像的实际语义就不再重要,因此模型就更能够适用于从未见过的异常检测新任务。配准特别适用于少样本异常检测,因为配准可以非常方便地进行跨类别推广,模型无需参数微调就能够快速应用于新的异常检测任务。

65f7be3e-0cf5-11ed-ba43-dac502259ad0.png

上图概述了基于配准的少样本异常检测的框架。与常规的异常检测方法(one-model-per-category)不同,这项工作(one-model-all-category)首先使用多类别数据联合训练一个基于配准的异常检测通用模型。来自不同类别的正常图像一起用于联合训练模型,随机选择来自同一类别的两个图像作为训练对。在测试时,为目标类别以及每个测试样本提供了由几个正常样本组成的支撑集。给定支撑集,使用基于统计的分布估计器估计目标类别注册特征的正态分布。超出统计正态分布的测试样本被视为异常。

6607af60-0cf5-11ed-ba43-dac502259ad0.png

这项工作采用了一个简单的配准网络,同时参考了 Siamese [1], STN [2] 和 FYD [3]。具体地说,以孪生神经网络(Siamese Network)为框架,插入空间变换网络(STN)实现特征配准。为了更好的鲁棒性,本文作者利用特征级的配准损失,而不是像典型的配准方法那样逐像素配准,这可以被视为像素级配准的松弛版本。

实验结果

在与其他少样本异常检测方法的比较上,RegAD 无论在检测性能、适用到新类别数据的自适应时间上,相比于基准方法 TDG [4] 和 DiffNet [5] 都有显著的优势。这是由于其他的方法都需要针对新的类别数据进行模型的多轮迭代更新。另外,RegAD 相比于没有进行多类别特征配准联合训练的版本(RegAD-L),性能也得到了显著的提升,体现出基于配准的通用异常检测模型的训练是十分有效的。本文在异常检测数据集 MVTec [6] 和 MPDD [7] 上进行实验。更多的实验结果和消融实验可参考原论文。

661ae508-0cf5-11ed-ba43-dac502259ad0.png

此外,作者还展示了异常定位可视化的结果。可以看到,联合训练可以使得模型的异常定位变得更加准确。

6626f6fe-0cf5-11ed-ba43-dac502259ad0.png

T-SNE 的可视化也显示出,基于配准的训练可以使得同类别的正常图像特征变得更加紧凑,从而有利于异常数据的检出。

663e5894-0cf5-11ed-ba43-dac502259ad0.png

总结

这项工作主要探索了异常检测的一个具有挑战性但实用的设置:1)训练适用于所有异常检测任务的单一模型(无需微调即可推广);2)仅提供少量新类别图像(少样本);3)只有正常样本用于训练(无监督)。尝试探索这种设置是异常检测走向实际大规模工业应用的重要一步。为了学习类别无关的模型,本文提出了一种基于比较的解决方案,这与流行的基于重建或基于单分类的方法有很大不同。具体采用的配准模型建立在已有的配准方案基础上,充分参考了现有的杰出工作 [1,2,3],在不需要参数调整的前提下,在新的异常检测数据上取得了令人印象深刻的检测效果。

审核编辑:彭静
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 代码
    +关注

    关注

    30

    文章

    4905

    浏览量

    71005
  • 检测图像
    +关注

    关注

    0

    文章

    3

    浏览量

    5582
  • 自动驾驶
    +关注

    关注

    790

    文章

    14365

    浏览量

    171148

原文标题:ECCV 2022 Oral | 无需微调即可推广,上交大、上海人工智能实验室等提出基于配准的少样本异常检测框架

文章出处:【微信号:CVSCHOOL,微信公众号:OpenCV学堂】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    基于eBPF的Kubernetes网络异常检测系统

    作为一名在云原生领域深耕多年的运维工程师,我见过太多因为网络问题导致的生产事故。传统的监控手段往往是事后诸葛亮,当你发现问题时,用户已经在抱怨了。今天,我将分享如何利用 eBPF 这一革命性技术,构建一套能够实时检测 Kubernetes 网络异常的系统。
    的头像 发表于 07-24 14:09 ?164次阅读

    EL非监督分割白皮书丨5张OK图、1分钟建模、半小时落地的异常检测工具!

    在工业4.0浪潮下,制造业对产品质量的要求愈发严苛。传统人工质检效率低、成本高,基于规则算法的视觉检测系统难以应对复杂场景,而依赖缺陷样本的有监督AI检测又面临样本不足、泛化能力弱的难
    的头像 发表于 07-11 15:21 ?138次阅读
    EL非监督分割白皮书丨5张OK图、1分钟建模、半小时落地的<b class='flag-5'>异常</b><b class='flag-5'>检测</b>工具!

    机器学习异常检测实战:用Isolation Forest快速构建无标签异常检测系统

    本文转自:DeepHubIMBA无监督异常检测作为机器学习领域的重要分支,专门用于在缺乏标记数据的环境中识别异常事件。本文深入探讨异常检测
    的头像 发表于 06-24 11:40 ?682次阅读
    机器学习<b class='flag-5'>异常</b><b class='flag-5'>检测</b>实战:用Isolation Forest快速构建无标签<b class='flag-5'>异常</b><b class='flag-5'>检测</b>系统

    提高IT运维效率,深度解读京东云AIOps落地实践(异常检测篇)

    基于深度学习对运维时序指标进行异常检测,快速发现线上业务问题 时间序列的异常检测是实际应用中的一个关键问题,尤其是在 IT 行业。我们没有采用传统的基于阈值的方法来实现
    的头像 发表于 05-22 16:38 ?477次阅读
    提高IT运维效率,深度解读京东云AIOps落地实践(<b class='flag-5'>异常</b><b class='flag-5'>检测</b>篇)

    液晶屏幕 AOI 异常检测及液晶线路激光修复方法

    一、引言 在液晶屏幕生产制造过程中,确保产品质量至关重要。自动光学检测(AOI)技术能够快速、精准地发现屏幕异常,而液晶线路出现故障后,激光修复技术则成为高效修复的关键手段。研究二者的协同
    的头像 发表于 05-06 15:26 ?391次阅读
    液晶屏幕 AOI <b class='flag-5'>异常</b><b class='flag-5'>检测</b>及液晶线路激光修复方法

    西门子伺服电机简明样本

    西门子伺服电机简明样本
    发表于 04-14 15:36 ?0次下载

    突破14nm工艺壁垒:天科技发布TB2000晶圆缺陷检测装备

    开启国产缺陷检测新纪元 苏州2025年3月26日?/美通社/ -- 3月26日,苏州天科技股份有限公司(股票代码:688003.SH)宣布,旗下矽行半导体公司研发的明场纳米图形晶圆缺陷检测装备
    的头像 发表于 03-26 14:40 ?425次阅读

    异常零流量小区检测功能介绍

    随着5G部署规模不断扩大,网管KPI的分析需求突增也日益显著,存在用户感知问题无法从告警和KPI数值中直接体现的情况;或者某些小区存在故障而网络维护工程师无法及时监控识别出来。异常零流量小区,就是指
    的头像 发表于 03-22 09:54 ?508次阅读
    <b class='flag-5'>异常</b>零流量小区<b class='flag-5'>检测</b>功能介绍

    如何设计基于AI的异常检测解决方案

    汽车制造部门一直致力于在提高产品质量和最小化运营费用之间实现平衡。基于 AI 的异常检测是一种识别机器数据中的不规则模式以在潜在问题发生前预测这些问题的方法,它是对提高流程效率、减少停机时间和提高产品质量感兴趣的所有汽车制造商都应考虑的新兴策略。
    的头像 发表于 03-20 15:26 ?603次阅读

    请问是否有任何OpenVINO?样本可以推断批次大小大于1的检测模型?

    是否有任何OpenVINO?样本可以推断批次大小大于 1 的检测模型?
    发表于 03-06 07:19

    FRED应用: LED混合直透镜模拟

    在LUMILEDS Rebel Amber LED[2]上折射/反射直透镜的光线追迹示意图 为了评估混合透镜的直性能,光的强度在距离LED 1m外的探测平面上评估。没有直器时,检测
    发表于 01-15 09:37

    串口通讯异常处理方法 串口设备连接方式

    串口通信异常处理方法 1. 异常检测 在串口通信中,首先需要能够检测异常情况。异常
    的头像 发表于 12-27 09:53 ?4230次阅读

    华为发布驾驶员行为异常检测新专利

    近日,华为技术有限公司公布了一项名为“一种驾驶员行为异常检测方法和装置”的新专利。这一专利的公布,标志着华为在智能交通系统领域的又一重要突破。 据悉,该专利通过获取第一对象的行为信息、第一
    的头像 发表于 12-04 13:42 ?622次阅读

    基于AI的异常检测解决方案

    工业过程和机械依赖可预测性和精确性。传感器数据中的意外模式(称为异常)可能表明存在问题,例如组件故障或传感器性能下降。基于 AI 的异常检测有助于工程师尽早发现这些潜在问题,从而使他们能够优化维护
    的头像 发表于 10-17 10:43 ?1085次阅读

    使用单个INA200去做高边短路电流检测检测电流会出现双向振荡,运放Vout输出异常怎么解决?

    目前我们使用单个INA200去做高边短路电流检测,额定电压48V, 目前的问题是,检测电流会出现双向振荡,发现运放Vout输出异常(可以参考第二图的通道1) 不知道是不是双向电流导致Vout
    发表于 08-13 06:58