0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

对话系统最原始的实现方式 检索式对话

深度学习自然语言处理 ? 来源:深度学习自然语言处理 ? 作者:深度学习自然语言 ? 2020-09-25 17:08 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

对话系统可以说是NLP领域目前已知最扎实的落地场景了,整个流程都脱离不了NLP的核心作用,而且整个流程涉及NLP的大量任务,因此大量的研究都围绕着对话系统来开展,也因此产生了很多很有意义的新方法。而检索式对话作为对话系统最原始的实现方式,又蕴涵着什么有意思的东西,我们来看看。

什么是对话系统

对话从来就不是一个简单的任务,这是一个涉及理解、生成、交互等多个方向技术的综合实体。

理解:需要理解对方输出的内容,只有这样才能给与正确的回应。

生成:基于理解的内容,给出合适的结果。

交互:在多轮对话上,需要记录跟踪整个对话过程中涉及的内容。

要同时完成这么多任务,相必是非常复杂的,同时场景上的复杂性,客服、语音助手、闲聊等,也造就了对话系统的复杂性,最终成为了NLP里面一个重要的研究抓手和目标。

检索式对话

检索式对话按照个人理解应该是最为经典的解决方案,把一个对话问题抽象为一个搜索问题,大量早期的对话系统都是用这种解决方案来实现的,甚至在现在,一些简单的对话任务,都可以用它来简单实现,可以说是工业界最喜欢的一种实现方式了。简单地说,整个检索式对话的流程可以用这个流程来表示:

query理解->检索召回->相似度排序

没错,看着就是搜索的流程,对句子进行理解,理解后到数据库里面进行召回,召回以后再进行相似度排序找到最佳答案。既然流程被拆解,那我们来看看每一步里面都会做什么东西。

query理解

简单的说,其实就是去理解用户输入的内容说的是啥,一般的自然语言理解主要关心的是这么几个技术细节:

意图和话题。即用户谈论的是哪个领域的事情,从而剖析用户期待对话系统返回的是什么。这个问题常被当成分类问题来处理,用分类规则或者是方法来进行意图识别。一旦抽象成分类问题大家就应该大概理解了,就是fastext、textcnn之类的玩意了。

槽位和实体。我们需要知道用户需要什么,需要抽取用户的具体实体,这个经常被抽象为序列标注问题,此时CRF、BILSTM-CRF之类的方法就是基操了。

当然,也有一些工程上会把它抽象化,只是转化为向量或者矩阵,下游用矩阵进行搜索。

总之,query理解这块,主要是为了解析用户说的内容,去理解他的语义,这样我们才能为用户找到合适的答案。

检索召回

召回这块,按照搜索的操作,就是拿着我们提取的槽位和实体,甚至是我们解析的向量和矩阵,根据意图和话题放到搜索引擎里面去检索,搜索引擎中有倒排索引,直接拿着关键词就能找到对应的内容。

然而,问题其实不在怎么检索召回,而是在于召回的内容怎么来。相比搜索引擎,对话系统的内容可能更加不结构化,同时可得性由于特定需求其实并不好得,例如淘宝的客服,每家店的商品性质各不相同,很难需要召回的结果,有正确答案的就更难了,所以,常用的方式有这几种:

对高频问题进行编辑,然后统一维护管理。数白了就是人编。

基于一些模板进行组装生成。

利用文本生成的方式进行处理。

相似度排序

一般地,根据用户最简单的query,往往能召回很多可能比较好的答案,此时我们要选择最优的给用户。衡量最优的标准之一就是相似度,语义相似度就是最为经典或者说基本的相似度衡量方式,当然搜索领域的ctr(不是点击率)、cqr、BM25等,这些非常基本的元素。

对经典的语义相似度,就要说2013年的DSSM了,这个模型可谓是开了语义相似度双塔结构的先河。

优缺点和应用场景

说完了具体的流程,然后再说说检索式对话的优点和应用场景。

先谈谈优点吧。

应该是这么多种对话实现方式中对样本依赖最低的。

实现成本低,初版本实现速度快,后续拓展

三段处理,可控性强。

因为这些优点,检索式对话在工程上被广泛应用。

客服机器人。尤其是淘宝的场景,这里有非常专业的内容,例如用户会问浴缸的长宽高,会问电脑的配置等等,这些用检索式非常方便。

问答类对话。例如小猿搜题之类的,还有一些百科类的问答,虽然不知道具体公司的操作,但是用检索式的确会非常方便。

对话系统初版本。即使是很多开放域,第一版本的构造都会尝试检索式对话的架构。

当然了,检索式对话这套实现方案还是有很大的局限性,因此才会有很多项目尝试做一些别的做法,先聊聊缺点:

答案相对固定,灵活性不足,在一些闲聊场景,会非常困难。如,用户问一句,你好,后面有很多答案都是合理的。

任务型的对话,在各种语音助手,小度、siri之类的很常见,一些引导用户完成任务的工作,对话机器人是需要做一个主动带节奏的角色,检索式基本办不到。

多轮对话。在检索式对话基础上,单轮对话升级为多轮对话其实是存在明显的天花板,成本也比较高,虽然已经有一些相关的操作,如Multi-view、SMN之类的,但是实现的难度还是会有些高。

小结

小结一下,检索式对话作为对话系统一个经典的技术,非常有必要学习和探究,今天大概讲了一些流程和概述,也希望大家有所收获。

责任编辑:xj

原文标题:【对话】对话系统经典:检索式对话

文章出处:【微信公众号:深度学习自然语言处理】欢迎添加关注!文章转载请注明出处。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • nlp
    nlp
    +关注

    关注

    1

    文章

    490

    浏览量

    22698
  • 对话系统
    +关注

    关注

    0

    文章

    7

    浏览量

    2260

原文标题:【对话】对话系统经典:检索式对话

文章出处:【微信号:zenRRan,微信公众号:深度学习自然语言处理】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    对话电网、指挥储能的双向计量电能表

    对话电网、指挥储能的双向计量电能表
    的头像 发表于 04-27 17:35 ?346次阅读
    能<b class='flag-5'>对话</b>电网、指挥储能的双向计量电能表

    单次、多次对话与RTC对话AI交互模式,如何各显神通?

    在这个充满无限可能的AI时代,这些奇妙场景正逐步走进我们的生活。你可曾想象过,有一天家里的智能设备会化身相声演员,和你幽默对答?或者,你的玩具能像知心好友一样,陪你畅聊心事?单次对话、多次对话
    的头像 发表于 04-02 18:18 ?745次阅读
    单次、多次<b class='flag-5'>对话</b>与RTC<b class='flag-5'>对话</b>AI交互模式,如何各显神通?

    能和Ai-M61模组对话了?手搓一个ChatGPT 语音助手

    实现与 Ai对话。 同时 安信可即将推出一款AI大模型对话开发板 超小尺寸 敬请期待! 准备工作 (一)硬
    的头像 发表于 03-12 11:57 ?3325次阅读
    能和Ai-M61模组<b class='flag-5'>对话</b>了?手搓一个ChatGPT 语音助手

    科技云报到:从鹦鹉学舌到灵魂对话,AI的「人话革命」

    科技云报到:从鹦鹉学舌到灵魂对话,AI的「人话革命」
    的头像 发表于 03-11 14:26 ?308次阅读

    摩尔线程Round Attention优化AI对话

    摩尔线程科研团队发布研究成果《Round Attention:以轮次块稀疏性开辟多轮对话优化新范式》,该方法端到端延迟低于现在主流的Flash Attention推理引擎,kv-cache 显存占用节省55%到82% 。
    的头像 发表于 03-06 09:39 ?644次阅读
    摩尔线程Round Attention优化AI<b class='flag-5'>对话</b>

    《AI Agent 应用与项目实战》阅读心得2——客服机器人、AutoGen框架 、生成代理

    处理模糊查询,大大提升了查询的召回率。对话状态管理器通过有限状态机实现对话流程的动态调整,解决了传统系统对话流程僵化的问题。响应生成器则融合
    发表于 02-25 21:59

    商汤科技推出SenseNova-5o,限时免费实时音视频对话服务

    商汤科技近日正式推出了其“日日新”融合大模型的交互版本——SenseNova-5o,并宣布即日起对外提供限时免费的实时音视频对话服务。 SenseNova-5o作为商汤科技的最新力作,集成了强大
    的头像 发表于 01-20 15:11 ?788次阅读

    HarmonyOS NEXT 原生应用开发:社交聊天对话过程实现

    一、实现思路 本DEMO旨在展示如何在HarmonyOS NEXT平台上,利用ArkTS开发语言构建一个简易的社交聊天对话界面。用户可以在此界面上查看聊天记录,并发送新的消息。此示例中,聊天记录
    发表于 01-07 10:55

    HarmonyOS NEXT 应用开发练习:AI智能对话

    一、练习内容 在这个HarmonyOS NEXT原生应用DEMO中,我们将使用ArkTS开发语言创建一个功能更为丰富的AI智能对话框。这个对话框不仅具备基本的聊天功能,还能展示图片消息、表情符号,并
    发表于 01-03 11:29

    天合光能参加第十轮中日企业家和前高官对话

    近日,第十轮中日企业家和前高官对话在北京举行,天合光能股份有限公司董事长特别助理杨晓忠应邀出席本轮对话,同与会嘉宾广泛交流,并就“合作应对气候变化的机遇与挑战”议题发言。
    的头像 发表于 12-17 11:21 ?638次阅读

    “向新而行,BC共生”BC领袖对话实录

    近日,12月3日下午3点,“向新而行 BC共生”BC领袖对话正式播出。此次对话由中国绿色供应链联盟光伏专委会秘书长吕芳主持,隆基绿能科技股份有限公司(以下简称“隆基”)董事长钟宝申、上海爱旭新能源
    的头像 发表于 12-05 15:42 ?788次阅读

    AI对话魔法 Prompt Engineering 探索指南

    Engineering 就是设计和优化与AI对话的“提示词”或“指令”,让AI能准确理解并提供有用的回应。 Prompt Engineering 主要包括以下几个方面: 1.明确目标:希望AI完成什么任务。例如:写一篇文章,回答一个问题,进行一次对话? 2.设计提示词:
    的头像 发表于 11-07 10:11 ?1523次阅读
    AI<b class='flag-5'>对话</b>魔法 Prompt Engineering 探索指南

    ChatGPT:为未来的个人和企业提供革命性的对话解决方案

    和准确性。6.增强用户体验:ChatGPT可以为个人和企业提供更好的用户体验,通过交互对话提供个性化的建议、指导和支持。7.自动化客服:ChatGPT可以被用于自动化客服系统,为用户提供即时响应
    的头像 发表于 11-01 11:12 ?483次阅读
    ChatGPT:为未来的个人和企业提供革命性的<b class='flag-5'>对话</b>解决方案

    商汤日日新·商量-拟人大模型带你对话未来,感受真实

    对此,专注于“拟人对话”领域的商量-拟人大模型(SenseChat-Character)应运而生,通过实现精准人设展现以及具有沉浸感的交互,让智能体更像栩栩如生的人。
    的头像 发表于 09-18 15:57 ?1407次阅读

    软件系统的数据检索设计

    软件系统的数据检索设计 随着业务量加大,数据检索量也会日益增多,为了减轻数据库压力,本系统采用ElasticSearch来实现数据
    的头像 发表于 08-22 14:08 ?528次阅读
    软件<b class='flag-5'>系统</b>的数据<b class='flag-5'>检索</b>设计