微软高级研究员撰写,剖析机器阅读理解支撑技术、模型架构、前沿算法、模型SDNet源码与落地应用。 全书分为三篇,共8章内容。基础篇(第1~3章),介绍机器阅读理解的基础知识和关键支撑技术,涵盖机器阅读理解任务的定义,阅读理解模型中常用的自然语言处理技术和深度学习网络模块,例如如何让计算机表示文章和问题、做多项选择题及生成回答等。架构篇(第4~6章),介绍解决各类机器阅读理解任务的基本模型架构和前沿算法,并剖析对机器阅读理解研究有着重要影响的预训练模型(如BERT和GPT)。实战篇(第7~8章),包括笔者在2018年获得CoQA对话阅读理解竞赛*名时所用的模型SDNet的代码解读,机器阅读理解在各种工业界应用中的具体落地过程和挑战,以及笔者对于机器阅读理解未来发展方向的思考。 作者亲授“机器阅读理解”直播课,搭配图书学习效果更佳! 回放&PPT获取方式 1、微信关注“华章计算机” 2、在后台回复关键词:机器阅读理解 朱晨光微软公司自然语言处理高级研究员、斯坦福大学计算机系博士。负责自然语言处理研究与开发、对话机器人的语义理解、机器阅读理解研究等,精通人工智能、深度学习与自然语言处理,尤其擅长机器阅读理解、文本总结、对话处理等方向。带领团队负责客服对话机器人的语义理解与分析,进行机器阅读理解研究,在斯坦福大学举办的SQuAD 1.0机器阅读理解竞赛中获得全球第一名,在CoQA对话阅读理解竞赛中成绩超过人类水平并获得第一名。在人工智能和自然语言处理顶级会议ICLR、ACL、EMNLP、NAACL、ICLR中发表多篇文章。 作者亲授“机器阅读理解”直播课,搭配图书学习效果更佳!回放&PPT获取方式1、微信关注“华章计算机”2、在后台回复关键词:机器阅读理解 序一序二前言第一篇 基础篇第1章 机器阅读理解与关键支撑技术 21.1 机器阅读理解任务 21.1.1 机器阅读理解模型 31.1.2 机器阅读理解的应用 41.2 自然语言处理 51.2.1 研究现状 51.2.2 仍需解决的问题 61.3 深度学习 71.3.1 深度学习的特点 71.3.2 深度学习的成果 101.4 机器阅读理解任务的测评方式 111.4.1 机器阅读理解的答案形式 111.4.2 自由回答式答案评分标准ROUGE 121.5 机器阅读理解数据集 141.5.1 单段落式数据集 141.5.2 多段落式数据集 191.5.3 文本库式数据集 221.6 机器阅读理解数据的生成 231.6.1 数据集的生成 231.6.2 标准答案的生成 241.6.3 如何设计高质量的数据集 261.7 本章小结 30第2章 自然语言处理基础 312.1 文本分词 312.1.1 中文分词 322.1.2 英文分词 332.1.3 字节对编码BPE 352.2 语言处理的基石:词向量 372.2.1 词的向量化 372.2.2 Word2vec词向量 392.3 命名实体和词性标注 422.3.1 命名实体识别 422.3.2 词性标注 442.4 语言模型 482.4.1 N元模型 492.4.2 语言模型的评测 522.5 本章小结 53第3章 自然语言处理中的深度学习 543.1 从词向量到文本向量 543.1.1 利用RNN的最终状态 553.1.2 利用CNN和池化 553.1.3 利用含参加权和 583.2 让计算机做选择题:自然语言理解 593.2.1 网络模型 593.2.2 实战:文本分类 603.3 让计算机写文章:自然语言生成 623.3.1 网络模型 623.3.2 实战:生成文本 633.3.3 集束搜索 653.4 让计算机专心致志:注意力机制 673.4.1 注意力机制的计算 683.4.2 实战:利用内积函数计算注意力 693.4.3 序列到序列模型 693.5 本章小结 70第二篇 架构篇第4章 机器阅读理解模型架构 724.1 总体架构 724.2 编码层 744.2.1 词表的建立和初始化 744.2.2 字符编码 754.2.3 上下文编码 774.3 交互层 794.3.1 互注意力 794.3.2 自注意力 814.3.3 上下文编码 824.4 输出层 834.4.1 构造问题的向量表示 834.4.2 多项选择式答案生成 844.4.3 区间式答案生成 854.4.4 自由式答案生成 874.5 本章小结 93第5章 常见机器阅读理解模型 945.1 双向注意力流模型 945.1.1 编码层 945.1.2 交互层 955.1.3 输出层 985.2 R-net 995.2.1
阅读更多