0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

视网膜形态芯片及其不同的图像信息处理方式

ExMh_zhishexues ? 来源:知社学术圈 ? 作者:知社学术圈 ? 2020-07-01 16:22 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

在人脑处理的信息中,超过80%都是通过眼睛获得的。人眼不仅可以进行信息的探测和同步处理,而且整体功耗极小(远小于20瓦)。相比而言,传统的机器视觉系统需要先探测再处理,使用的图像传感器在探测目标图像的同时会产生大量冗余信息,此类信息通过有限的带宽传输给所连接的计算机进行处理和分析,从而导致较大的时间延迟和较高的功耗。因此,构建一个可以媲美人眼、具备同步进行信息探测和处理功能的类脑视觉传感器是人们一直追求的梦想,对于智能工业、自动驾驶、智能安防等应用的发展也至关重要。近日,南京大学物理学院缪峰教授团队基于二维材料异质结,在可重构类脑视觉传感器领域取得重要进展。

二维材料有望成为后摩尔时代重要的基础电子材料,该领域的发展也让人们可以对原子层材料进行乐高式的堆叠和集成。近年来,南京大学缪峰团队(https://nano.nju.edu.cn)利用“原子乐高”分别在耐高温忆阻器(Nature Electronics 2018)、弹道雪崩探测器件(Nature Nanotechnology 2019)、室温高灵敏红外探测器(Science Advances 2017)等方向取得突破。

在此基础上,该团队近日提出,利用二维材料范德华异质结器件的结构特点和可调的光响应特性,能够实现对人眼视网膜的层状结构和感光细胞、双极细胞的生物特性模拟,基于这种类视网膜形态器件,团队进一步构建了能够对感知的图片信息进行同步处理的类脑视觉器件阵列。该工作有望为未来开发基于范德华异质结的新型类脑视觉芯片提供物理和技术基础。相关研究成果以《Gate tunable van der Waals heterostructure for reconfigurable neural network vision sensor》(基于栅极可调范德华异质结的可重构神经网络视觉传感器)为题于 2020年6月24日发表在Science Advances上。南京大学物理学院博士生王晨宇和梁世军副研究员为共同第一作者,缪峰教授和美国麻省大学的杨建华教授为该工作的共同通讯作者,该工作同时得到了王振林教授课题组、陈坤基教授课题组和王肖沐教授课题组的实验协助,和国家杰出青年科学基金、国家自然科学基金等项目的资助,以及微结构科学与技术协同创新中心的支持。

研究成果

人类视觉系统强大的信息处理能力很大程度上依赖于视网膜的结构和功能。视网膜中的主要细胞包括感光细胞、双极细胞等,这些细胞之间是垂直分层分布的结构。光透过瞳孔入射到视网膜上后,感光细胞将入射光转换为电学信号,流经双极性细胞,利用双极性细胞的生物特性对电学信息进行一定的加工和处理,加工后的图像信息仅仅保留其主要的特征,再传输至大脑皮层进行进一步的图像处理和理解。通过这种方式,视网膜在一定程度上实现了信息探测和处理的同步进行。为了实现对视网膜结构和功能的逼真模拟,在该工作中,缪峰团队提出可以通过“原子乐高”的方式搭建基于二维材料垂直异质结的类脑视觉传感器,这些垂直结构不仅能够自然地模仿视网膜的垂直分层结构,而且异质结中包含的不同二维材料可被用来模拟视网膜中不同细胞的功能。

在实验中,缪峰团队首先将机械剥离的薄层硒化钨和氮化硼以及氧化铝制备成垂直异质结器件。该异质结器件在无背栅或者正背栅电压作用下,呈现出正的光电导行为,类似于双极细胞的正的光响应;当所加背栅电压为负的时候,器件展现出了负光电响应特征与双极细胞的负响应类似。研究团队通过一系列的对比实验结果,指出器件的负光学响应来源于光诱发带电杂质产生的电场屏蔽效应。通过控制垂直异质结器件的栅压,团队首次实现了对感光细胞和双极细胞的生物功能的模拟,器件的响应时间和功耗均接近人类视网膜的水平(图1)。

图 1. 视网膜和视网膜形态器件。(a)视网膜的垂直分层结构包括了视锥细胞和双极性细胞以及视神经节细胞;(b)双极性细胞在不同刺激条件下所具有的生物光学响应特征;(c)类视网膜形态器件的光学图;(d)垂直异质结器件在不同栅压作用下展现出不同的光学响应,类似于视网膜结构中双极性细胞的生物特征。

进一步,研究团队将垂直异质结器件组装成 3×3 的一个阵列,利用异质结器件栅压可调的光电响应特征,将图像处理中常用的数学卷积核映射到3×3 的器件阵列中,实现了可重构的图像信息处理功能(图2),包括边缘增强、图像风格化、图像强度校正等。研究发现这些实验结果与采用相同卷积核处理后的模拟结果一致,这表明基于垂直异质结阵列能够被用于在硬件上直接进行图片信息的处理。

图 2. 可重构的视网膜形态芯片及其不同的图像信息处理方式。(a)背栅独立控制的可重构视觉传感器阵列示意图;利用传感器阵列对南京大学校徽图片进行(b)图像风格化(c)边缘增强(d)强度校正处理,所处理后的图片信息和采用相同卷积核的模拟结果一致。

基于范德华异质结器件的功能应用除了同步的探测和信息的处理之外,研究团队发现器件阵列还可以用于图片的分类任务。通过将器件电导作为神经网络的权值,背栅的调节变化作为更新神经网络权值的一种手段,范德华异质结器件阵列可以执行神经网络的功能。研究团队在实验中采用软件辅助硬件的训练方法实现了对输入图像“N”,” J”, “U”字母的快速识别(图3)。这一项工作从原理上证明,利用范德华异质结的特性模拟人类视网膜结构和功能的研究思路有望将来被用来实现新型的类脑视觉芯片。

图 3. 基于范德华异质结视觉形态的传感器神经网络及训练示意图和识别结果。(a)待识别的图片字母信息;(b)异质结视觉形态传感器神经网络训练示意图;(c)N”,” J”, “U”三类字母平均识别结果与训练次数的关系;(d)N”,” J”, “U”三类字母的分类情况与训练次数的关系。
责任编辑:pj

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 图像传感器
    +关注

    关注

    68

    文章

    1984

    浏览量

    130853
  • 机器视觉
    +关注

    关注

    163

    文章

    4605

    浏览量

    123177
  • 自动驾驶
    +关注

    关注

    790

    文章

    14368

    浏览量

    171173
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    HarmonyOS应用图像stride处理方案

    图像存储在内存中时,内存缓冲区可能在每行像素之后包含额外的填充字节。填充字节会影响图像在内存中的存储方式,但不会影响图像的显示方式。str
    的头像 发表于 06-10 14:17 ?390次阅读
    HarmonyOS应用<b class='flag-5'>图像</b>stride<b class='flag-5'>处理</b>方案

    基于LockAI视觉识别模块:C++使用图像的统计信息

    }/lib/cmake/lockzhiner_vision_module\") find_package(LockzhinerVisionModule REQUIRED) ? # 图像信息处理
    发表于 05-08 10:31

    经颅电刺激系列之视功能的电刺激神经调控

    视觉通路人类获取外界信息的80%依赖视觉系统。光线进入眼球后,经过角膜、晶状体聚焦成像于视网膜(图1A),视网膜上的感光细胞(视杆细胞:暗视觉/视锥细胞:捕捉色彩与细节)将光信号转化为电信号,通过双
    的头像 发表于 03-10 21:25 ?1162次阅读
    经颅电刺激系列之视功能的电刺激神经调控

    Discovery4100图像控制,是通过DMD微镜的开关方式还是调整灰度的方式进行图像控制的?

    您好,我们购买一套VIALUX公司的V-7001,用的就是discovery 4100的 芯片,据销售人员跟我们介绍,控制图像方式是改变灰度(微镜的反射率,想了解一下是否可以通过微镜的开关去实现
    发表于 02-26 07:24

    图像采集卡:现代图像处理技术的关键组件

    在现代科技快速发展的背景下,图像处理技术已成为信息技术领域不可或缺的一部分。图像采集卡,作为连接计算机与各种图像采集设备的重要硬件组件,扮演
    的头像 发表于 02-20 10:42 ?525次阅读
    <b class='flag-5'>图像</b>采集卡:现代<b class='flag-5'>图像</b><b class='flag-5'>处理</b>技术的关键组件

    FPGA上的图像处理算法集成与优化

    、Tophat形态学滤波、RAW8转RGB888、彩色图像均值滤波、Alpha背景叠加、直方图灰度拉伸算法以及自动白平衡算法。每种算法都提供了实现方法和相关公式,涵盖了图像处理的核心概
    的头像 发表于 02-14 13:46 ?726次阅读
    FPGA上的<b class='flag-5'>图像</b><b class='flag-5'>处理</b>算法集成与优化

    FPGA图像处理基础----实现缓存卷积窗口

    像素行与像素窗口 一幅图像是由一个个像素点构成的,对于一幅480*272大小的图片来说,其宽度是480,高度是272。在使用FPGA进行图像处理时,最关键的就是使用FPGA内部的存储资源对像
    的头像 发表于 02-07 10:43 ?894次阅读
    FPGA<b class='flag-5'>图像</b><b class='flag-5'>处理</b>基础----实现缓存卷积窗口

    TVP7002SOG 4线制的复合同步可以按照绿同步的处理方式进行处理吗?

    我这边VGA的信号源是4线制的,即R、G、B及复合同步信号,想用TVP7002将其转换为数字信号,想问下复合同步信号能否通过一个电容接到SOGIN管教,或者直接接到SOGIN管教吗,想知道4线制的复合同步可以按照绿同步的处理方式进行处理吗?谢谢
    发表于 01-17 07:32

    多领域广泛应用,DSP芯片市场有多大?

    。 过去数字信号处理主要是通过微处理器来完成,但是随着终端应用产品的发展与更迭,传统微处理器的处理速度已经无法满足大信息量的高速实时要求。在
    的头像 发表于 12-12 10:28 ?712次阅读
    多领域广泛应用,DSP<b class='flag-5'>芯片</b>市场有多大?

    触摸屏的信息可以直接和DS90UB928 I2C通信吗?

    想请问下,触摸屏的信息可以直接和928通信吗?参考928的datasheet,他支持I2C,理论上是可以的,有没有大神用过这样的处理方式
    发表于 12-02 06:20

    百问FB显示开发图像处理 - BMP图像处理

    2 图像处理 ?前言:所有的图像文件,都是一种二进制格式文件,每一个图像文件,都可以通过解析文件中的每一组二进制数的含义来获得文件中的各种信息
    发表于 11-28 13:52

    什么是NPU芯片及其功能

    的设计灵感来源于人脑的神经网络结构。人脑通过神经元和突触的复杂网络处理信息,而NPU芯片则通过模拟这种结构来提高数据处理的效率。与传统的CPU和GPU相比,NPU
    的头像 发表于 11-14 15:48 ?5552次阅读

    LSTM神经网络在图像处理中的应用

    LSTM通过引入门控机制来解决传统RNN的梯度消失和梯度爆炸问题。这些门控机制包括输入门、遗忘门和输出门,它们控制着信息的流动,使得网络能够记住或忘记信息。 LSTM在图像处理中的应
    的头像 发表于 11-13 10:12 ?1665次阅读

    ARM处理器的寻址方式

    ARM处理器的寻址方式处理器在执行指令时,根据指令中给出的地址信息来寻找物理地址的方法。ARM处理器支持多种寻址
    的头像 发表于 10-05 17:08 ?852次阅读

    图像处理器是什么意思

    图像处理器(Image Processor)是一种专门用于图像处理和计算的硬件设备或芯片,它通过高速数据传输、
    的头像 发表于 08-14 09:28 ?2083次阅读