家好，我是海拥，专注于前端知识的分享。今天将给大家带来的是 400 个最常见的 JavaScript 面试问答第一部分。接下来我会持续更新（争取日更，也可能每周3-5篇），每小节大概 10 道题左右，总共会有 400 多道。

大家一定要记得点赞收藏呀！！！

1.在 JavaScript 中创建对象的可行方法有哪些？

有很多方法可以在 javascript 中创建对象，如下所示

（1）.对象构造函数：

创建空对象的最简单方法是使用 Object 构造函数。目前不推荐这种方法。

var object = new Object();

（2）.对象的创建方法：

Object 的 create 方法通过将原型对象作为参数传递来创建一个新对象

var object = Object.create(null);

（3）.对象字面量语法：

当传递 null 作为参数时，对象字面量语法等效于 create 方法

var object = {};

（4）.函数构造器：

创建任何函数并应用 new 运算符来创建对象实例，

function Person(name){
var object = {};
object.name=name;
object.age=21;
return object;
}
var object = new Person("Sudheer");

（5）.带有原型的函数构造函数：

这类似于函数构造函数，但它使用原型作为其属性和方法，

function Person(){}
Person.prototype.name = "Sudheer";
var object = new Person();

这等效于使用具有函数原型的对象创建方法创建的实例，然后使用实例和参数作为参数调用该函数。

function func {};
new func(x, y, z);

（或者）

// 使用函数原型创建一个新实例。
var newInstance = Object.create(func.prototype)
// 调用函数
var result = func.call(newInstance, x, y, z),
// 如果结果是非空对象，则使用它，否则只使用新实例。
console.log(result && typeof result === 'object' ? result : newInstance);

（6）.ES6 类语法：

ES6 引入类特性来创建对象

class Person {
constructor(name) {
this.name = name;
}
}
var object = new Person("Sudheer");

（7）.单例模式：

Singleton 是一个只能实例化一次的对象。对其构造函数的重复调用返回相同的实例，这样可以确保它们不会意外创建多个实例。

var object = new function(){
this.name = "Sudheer";
}

2.什么是原型链？

原型链用于基于现有对象构建新类型的对象。它类似于基于类的语言中的继承。

对象实例上的原型可通过Object.getPrototypeOf(object)或proto属性获得，而构造函数上的原型可通过Object.prototype 获得。

3.call、apply、bind有什么区别？

Call、Apply 和 Bind 之间的区别可以用下面的例子来解释，

call： call() 方法调用一个函数，给定的this值和参数一一提供

var employee1 = {firstName: 'Haiyong', lastName: 'Rodson'};
var employee2 = {firstName: 'Jimmy', lastName: 'Baily'};
function invite(greeting1, greeting2) {
console.log(greeting1 + ' ' + this.firstName + ' ' + this.lastName+ ', '+ greeting2);
}
invite.call(employee1, 'Hello', 'How are you?'); // Hello Haiyong Rodson, How are you?
invite.call(employee2, 'Hello', 'How are you?'); // Hello Jimmy Baily, How are you?

apply：调用具有给定this值的函数，并允许你将参数作为数组传入

var employee1 = {firstName: 'Haiyong', lastName: 'Rodson'};
var employee2 = {firstName: 'Jimmy', lastName: 'Baily'};
function invite(greeting1, greeting2) {
console.log(greeting1 + ' ' + this.firstName + ' ' + this.lastName+ ', '+ greeting2);
}
invite.apply(employee1, ['Hello', 'How are you?']); // Hello Haiyong Rodson, How are you?
invite.apply(employee2, ['Hello', 'How are you?']); // Hello Jimmy Baily, How are you?

bind：返回一个新函数，允许你传递任意数量的参数

var employee1 = {firstName: 'Haiyong', lastName: 'Rodson'};
var employee2 = {firstName: 'Jimmy', lastName: 'Baily'};
function invite(greeting1, greeting2) {
console.log(greeting1 + ' ' + this.firstName + ' ' + this.lastName+ ', '+ greeting2);
}
var inviteEmployee1 = invite.bind(employee1);
var inviteEmployee2 = invite.bind(employee2);
inviteEmployee1('Hello', 'How are you?'); // Hello Haiyong Rodson, How are you?
inviteEmployee2('Hello', 'How are you?'); // Hello Jimmy Baily, How are you?

Call 和 apply 可以互换。两者都立即执行当前函数。你需要决定是发送数组还是逗号分隔的参数列表更容易。你可以通过处理 Call 用于逗号（分隔列表）和 Apply 用于Array来记住。

而 Bind 创建一个新函数，该函数将this设置为传递给 bind() 的第一个参数。

4.什么是 JSON 及其常见操作？

JSON是一种基于文本的数据格式，遵循 JavaScript 对象语法，由道格拉斯·克罗克福德 (Douglas Crockford) 推行。 当你想通过网络传输数据时它很有用，它基本上只是一个扩展名为 .json 的文本文件，以及一个 MIME 类型的 application/json

解析：将字符串转换为原生对象

JSON.parse(text)

字符串化：将本机对象转换为字符串，以便可以通过网络传输

JSON.stringify(object)

5. 数组slice()方法的目的是什么？

所述slice()方法返回在数组作为新的数组对象中选定的元件。它选择从给定开始参数开始的元素，并在给定的可选结束参数处结束，不包括最后一个元素。如果省略第二个参数，则它会一直选择到最后。

这种方法的一些例子是，

let arrayIntegers = [1, 2, 3, 4, 5];
let arrayIntegers1 = arrayIntegers.slice(0,2); // returns [1,2]
let arrayIntegers2 = arrayIntegers.slice(2,3); // returns [3]
let arrayIntegers3 = arrayIntegers.slice(4); //returns [5]

==注意==： Slice 方法不会改变原始数组，而是将子集作为新数组返回。

6.数组splice()方法的目的是什么？

splice() 方法用于向/从数组添加/删除项目，然后返回被删除的项目。第一个参数指定插入或删除的数组位置，而选项第二个参数指示要删除的元素数。每个附加参数都添加到数组中。

这种方法的一些例子是，

let arrayIntegersOriginal1 = [1, 2, 3, 4, 5];
let arrayIntegersOriginal2 = [1, 2, 3, 4, 5];
let arrayIntegersOriginal3 = [1, 2, 3, 4, 5];
let arrayIntegers1 = arrayIntegersOriginal1.splice(0,2); // returns [1, 2]; original array: [3, 4, 5]
let arrayIntegers2 = arrayIntegersOriginal2.splice(3); // returns [4, 5]; original array: [1, 2, 3]
let arrayIntegers3 = arrayIntegersOriginal3.splice(3, 1, "a", "b", "c"); //returns [4]; original array: [1, 2, 3, "a", "b", "c", 5]

==注意==： Splice 方法修改原始数组并返回删除的数组。

7.slice()和splice()有什么区别？

表格形式的一些主要区别

8.你如何比较 Object 和 Map

Object 与Maps 的相似之处在于，它们都允许您将键设置为值、检索这些值、删除键以及检测某个键是否存储了某些内容。由于这个原因，对象在历史上被用作地图。但是在某些情况下，使用 Map 有一些重要的区别。

• Object 的键是字符串和符号，而它们可以是 Map 的任何值，包括functions、Object 和任何primitive。
• Map 中的键是有序的，而添加到 Object 的键不是。因此，当迭代它时，一个 Map 对象按插入的顺序返回键。
• 您可以使用 size 属性轻松获取 Map 的大小，而 Object 中的属性数量必须手动确定。
• Map 是可迭代的，因此可以直接迭代，而迭代 Object 需要以某种方式获取其键并对其进行迭代。
• 一个对象有一个原型，所以如果你不小心，地图中有一些默认的键可能会与你的键发生冲突。从 ES5 开始，这可以通过使用 map =Object.create(null) 绕过，但很少这样做。
• Map在涉及频繁添加和删除密钥对的场景中可能表现得更好。

9.== 和 === 运算符有什么区别？

JavaScript 提供了严格(===, !==) 和类型转换(==, !=) 相等比较。严格运算符考虑变量的类型，而非严格运算符根据变量的值进行类型校正/转换。严格的运算符遵循以下不同类型的条件，

1. 当两个字符串具有相同的字符序列、相同的长度以及相应位置的相同字符时，它们是严格相等的。
2. 当两个数字在数值上相等时，它们严格相等。即，具有相同的数值。这里有两种特殊情况，

NaN 不等于任何东西，包括 NaN。
正零和负零彼此相等。

3. 如果两个布尔操作数都为真或都为假，则两个布尔操作数严格相等。
4. 如果两个对象引用同一个对象，则它们严格相等。
5. Null 和 Undefined 类型与 === 不相等，但与 == 相等。即， null===undefined --> false 但 null==undefined --> true
   一些涵盖上述情况的例子，

0 == false // true
0 === false // false
1 == "1" // true
1 === "1" // false
null == undefined // true
null === undefined // false
'0' == false // true
'0' === false // false
[]==[] or []===[] //false, 引用内存中的不同对象
{}=={} or {}==={} //false, 引用内存中的不同对象

10.什么是 lambda 或 箭头函数？

箭头函数是函数表达式的较短语法，没有自己的this、arguments、super 或 new.target。这些函数最适合非方法函数，它们不能用作构造函数。

希望大家能够给海海 点赞+收藏+关注 ，你的支持是海海更新的动力！后面我会持续分享面试经验 & 前端相关的专业知识。

最后祝大家都能找到满意的实习和 offer！

位小伙伴们，继续。接下来讲解html基础里面的简答题的内容。

·什么是未否标准以及未否标准的构成？在这里面未否标准也称之为王爷标准，它是有一系列的标准构成。这个地方有没有问题？没有。

·接下来主要讲当前对应的内容，就是结构表现跟行为结构。在这里面是干什么的？比如主要分为hxml和hxmtml两部分。表现用来是做装饰，装饰哪些？板式颜色大小及外观样式。则css行为。

·网页模型里面定义和交互编写，通常包括动模和ecmsk部分。在这里面可以演什么？叫做gs。

·在html中type标记常用的属性有哪些？这个东西就是属于日常里面一定要会的alone水平对齐方式，宽度、高度、背景颜色、边框。sailor spacex指的是单元格跟单元格之间的间距。sailor pending叫做表格内部之间的边距。在这里面之间解析过九十五的边缘。

·这一部分内容指的是什么？就是pending。sailor pendingfund在这里面可以理解什么？表格外部的框架。

·在这里面有对应的内容，基本上都有下列选项中填上正确代码。我是et标题，是不是只要写个h1开头，h1结尾，文字是不是写p标签？这个应该没问题。

·减速html在vip标准中属于哪个分层其作用？在这里面html是超文本标记语言的简写，是网页三层中属于当前对应的结构层负责。在这里面定义当前的内容和羽翼不负责样式跟行为样式对应的是css，行为对应的是js。

·减速网页中常用的三种图像格式：gp、png跟jpg、png和gp的公优点。在这里面gp优点是什么？常用的图片格式，而且质量小便于传输，而且颜色会更加的逼真。

·缺点什么？不只是透明透明度，png是什么？就是支持透明透明度，有png-8跟png-24。

·缺点是什么？对浏览器的低端浏览器适应不好。gp图片支持透明且是动效图片，但缺点是什么？只能存不超过二五六颜色的内容。

·在这里面对应的信息可以暂停一下再读一遍。如果想耍赖，其实在这里面把对方的优点写成对应的缺点其实好像也是可以的，但是尽可能描述正确。

接下来请举例常用的单标跟双标。在这里面常用的双标就是所见到的这一系列常用的单标是当前的BR跟HE。

·在这里面也可以去补充一些，但是算不算常用其实应该是主要一应该叫什么，主要在写的时候过程当中知道的。

·在这里面请描述动态资源跟静态资源。首先要知道什么叫动态，什么叫静态。

→第一个要理解一个误区，动态不是指指的会动就叫动态。动态一般指的是有数据的交互，数据的交互通常是网页跟服务器之间的数据的发送信息，在这里面会导致页面数据的更改。

→静态资源是什么？就是直接加载会有一个具体的产线的内容，所以在这里面可以看到天台资源有未可服务器读取后直接返回，只要服务器没有修改这些文件，用户每次访问都是一模一样的。

→而动态资源是什么？随着每次请求都需要计算，所以服务器里面如果在这里面当前的人员对当前的页面已经改变，就会在服务器上面对应改，而下次传回来的时候就有对应的改变的内容。

·接下来在这里面读取当前对应的代码。在这里面可以看到imagehrc这一整个，其实这里应该是多了一个符号，这个符号应该删掉，所以它有点问题。这个表示加载不出来的时候显示对应内容，这个是高度、宽度，这个是高度。

·这个波的是不是写一个三对不对？完了之后在这里面悬停状态时显示logo的一个文本，这里面就推头，在这里面就有对应的效果。记住这里面一般不要加服，不要加单位，hcss的时候是一定要加单位的，h t m 5的时候是可以不加。

解释一下什么是h5，在这里面h5不仅练习到新标准而且是h t m l和x h t m l的继承跟发展。h5是一个向下兼容的版本，本质上并不是什么新技术，而是在这个功能上做了一个极大的丰富，相当于一个方案的整合。

分析下列代码并回答问题，仅减速代码的作用，并且描述每个标记及其属性的意义跟作用。

·首先p就是文本文档里面展示了正在学习嵌套标记，同时这里面的文本的对齐属性按照居中文字倾斜且文字加粗的效果，就这样子。

·在这里面什么什么描述等于什么什么什么什么什么描述等于什么，给它讲清楚。

·请简要的描述htm语言中table常用的属性有哪些？这个在题目里面其实已经讲了很多次了。对应的边框对应的单元格跟单元格之间的距离，单元格内部跟单元格边框的距离，宽度、高度以及水平对齐方式。

·背景颜色和当前的单音表格的背景。

·请简要描述定义列表的签到形式。在这里面定义列表就是d l d t跟d d 其中d l，只能有一个d，d可以有多个，在这里面就有对应的内容不做描述，各位可以暂停简单的看一下。

·接下来是常用的图像格式，分别减速它们的作用。其实这道题目讲过了，常用的图像有三种：png、png。png就是动画最多就二五六颜色，png常用于logo小图标和单一的颜色。其实游戏网页里面gif用的会比较多，因为可以生成动效的效果又是小动效，而且加载的时候资源也不会占用很大。

如果放视频，视频再小也是很大的。png在这里面有png-8和png-24，当然还有个png-32，一般用的比较少，默认png-24。png的优势就是体积更小而且支持半透明，全透明和不透明都支持。

·接下来jpg，jpg的颜色会比gif和png来的更多，而且本身超过二五六颜色，所以基本上网页里面的banana和商品图片还有较大的图片都常用jpg来进行保存。

描述gif、mr与h5的区别，h5文档格式与gif、mr文档格式基本没有太大差异，仅仅只是gif、mr5的文档更加的简明扼要，以及文档类型的声明和编码格式略有区别，其实gif、mr5的羽翼化更加明显。

·接下来是什么叫相对路径？什么叫绝对路径？简单的说相对路径就是通过当前的文件去找对应的内容，上级点点斜杠，下级斜杠，等级直接找文件以及后缀名。而绝对路径是通过盘符进行指定查找，但是一般在做绝对路径的时候不太建议，理由很简单，上传到服务器的时候有些盘在服务器上面不一定有，就像前面讲过的，常用的就在常用的浏览器有哪些，并不表示。

现实中常用的浏览器就是这些，我喜欢用qq浏览器，我喜欢用搜狐浏览器，这是常用的浏览器，但是它属于五大浏览器吗？它不属于，就这么理解。怎样的描述相对路径？其实已经描述过了，在这里看到的是一模一样的。各位可以暂停稍微看一遍。

请描述htm文档中注视标记的作用，在这里面注视标记是方便去理解当前文档里面的基本的代码内容，就是方便查找和理解，就这么简单。

接下来内容也就讲完了，希望各希望当前的视频对在座各位有一点点的帮助，谢谢。

读：智能问答是人工智能领域中一个比较受关注的方向，目前广泛应用于各种垂直或综合的搜索引擎、智能客服、智能助手以及智能手机、车载音箱等。本次分享的主题是QQ浏览器搜索中的智能问答技术，主要分为以下几个部分：

1.背景介绍

• 智能问答在搜索中的应用
• 搜索中的Top1问答

2.关键技术

• 搜索问答的技术框架
• KBQA：基于知识图谱的问答
• DeepQA：基于搜索+机器阅读理解的问答

3.前沿研究

• 端到端问答
• 知识指导的问答
• 多模态问答

01

背景介绍

1. 问答在搜索中的应用

问答的核心是通过理解语言和运用知识来进行提问和回答。从应用角度看，由于人类有获取信息的需求和旺盛的好奇心，问答的场景无处不在；从研究角度看，问答是认知智能的前沿之一。

问答在搜索场景的应用可以分为两类。一类是满足用户的直接搜索需求，即在搜索结果页给用户提供精准的答案，例如Top1问答卡片。另一类是通过问答的方式与用户交互，来帮助用户澄清、细化和延伸需求，例如推荐和对话形式的问答。

2. 搜索中的Top1问答

下图展示了QQ浏览器搜索中Top1问答的一些产品形态，包括短答案、长答案、列表答案、视频答案、集合和图片答案。

--

02

关键技术

1. 搜索问答技术与系统

搜索中问答的明确需求占比接近1/4。这些问题不限领域，不限类型，一般可分成事实类和非事实类。搜索中问答的数据源是多种多样的。从资源类型上看，包括网页、UGC（用户生产内容，如社区问答）和PGC（专业生产内容，例如自媒体号）。从文本的组织形态上来讲，数据可以分成结构化、半结构化和无结构化三种。结构化的数据具有一定约束，以知识图谱为代表；半结构化数据的典型代表是开放生态构建或者从社区问答抽取的具有一定格式的问答对数据；无结构化数据广泛存在，例如普通的网页文本。

搜索中的问答技术主要分为KBQA和DeepQA。

KBQA指基于知识图谱的问答，面向的是结构化数据，底层是离线构建的知识图谱，在线通过问题解析、图谱查询和推理得到答案，主要适用于事实类问题。

DeepQA是一系列基于搜索和机器阅读理解（MRC）的问答技术，可以处理更广泛的非结构化数据，基于离线问答内容构建和理解，在线通过搜索获得候选文档、使用机器阅读理解技术来抽取答案，能解决更多问题需求类型。在实际应用中，针对不同类型的数据，我们构建了三套DeepQA系统，分别是优质问答数据源上的独立检索系统、全网搜索结合在线MRC的通用问答系统、以及端到端问答系统。

下图右侧展示的是搜索问答系统的整体架构。离线部分是问答内容的构建和理解，比如对专业生产内容做质量和权威性分析、从全网数据中进行问答对的挖掘和选取等；数据源包括网页库、优质问答库和知识图谱；在线部分包括搜索问答结果的召回和排序、段落匹配和答案抽取、知识图谱检索和推理计算等，以及问答融合决策从多源结果中决定最终展现给用户的答案。

2. KBQA：基于知识图谱的问答系统

图谱问答系统的数据依据不同实体更新的要求分为三路，数据通过直接的三元组索引查询或者图数据库存储检索系统应用。

在线图谱问答的流水线之一是语义解析的方法，系统先对查询进行领域分类以装配不同类型的处理流程（例如汉语诗词类、单实体类、多实体关系类），然后对查询进行语法树分析和形式逻辑规约，在三元组中递归查询和拼装得到最终答案。该方法的优点是支持一些复杂的查询推理，且在规则适用的范畴内准确率较高。另一种流水线是基于深度学习的方法，系统首先识别出具有问答意图的查询，然后通过深度模型识别查询问题中的实体，对实体属性和查询表达进行深度语义匹配映射，计算出候选结果并进行清洗和排序得到答案。该方法的优点是对查询语义理解较好，泛化性强，召回率较高。

3. DeepQA：基于搜索+机器阅读理解的问答系统

下面主要围绕DeepQA相关工作展开介绍。

早期的DeepQA系统具有非常复杂的流水线，例如IBM的Waston，以及2017年第一版“立知“问答。系统包括多个数据挖掘和机器学习模块，在问题分析、答案候选的特征抽取、评分排序等诸多环节都可能有错误的传播和积累，可扩展性不强。2017年以后，斯坦福的陈丹琦等人提出了一个面向规模文档集的开放域问答系统——DrQA，系统定义了一种新的开放域问答实现方式，即通过检索和深度机器阅读理解（MRC）产生答案。在SQuAD等公开数据集和评测的推动下，深度机器阅读理解发展迅速，在查询和文档语义建模、上下文信息交互建模、答案抽取和预测方式建模上都不断涌现新的方法，2019年机器阅读理解系统甚至在事实类问答上超过了人类水平。

然而在真实的搜索场景中，DeepQA仍然面临着很多挑战。首先是用户的需求纷繁复杂，表达方式也千差万别，而互联网数据规模巨大，需求检索匹配的难度很大。其次是网页数据多种多样，页面类型和格式繁多、质量参差、答案的形式不一，机器阅读理解面临较大的挑战。

下面介绍一些应对搜索场景的问题我们所做的工作。

（1）短答案MRC

短答案MRC任务的定义是从搜索结果的多个文档中抽取唯一的答案片段，并提供支持答案的文本来源。这个任务会面临以下一些挑战：

①搜索结果噪声过多

噪声包括不相关结果、不一致答案等。短答案抽取模型是一个多文档段落抽取的模型，我们将搜索排名topN（常用N=10）的文档段落输入到BERT中进行表示建模，然后预测段落中答案的起始位置。为了解决输入文档不相关的问题，我们将“答案存在性判别”和“答案起止位置预测”两个目标进行联合训练；为了应对各文档的答案不一致问题，我们加入了多文档交互，将多个文档中包含答案概率最大的片段拼接起来进行建模，信息融合之后再预测文档包含答案的概率。

②答案出现常识性错误

常识性错误即模型输出无意义答案，例如边界错误、答案类型错误。我们的做法是引入一些外部知识，例如百科、知识图谱等，给候选文档中符合答案类型的实体打上特殊的标记，在建模过程中加强对它们的关注。

③鲁棒性问题

这里鲁棒性问题指的是由于过拟合导致模型输出不稳定。Dropout是一种有效的减少过拟合的方式，但它的缺点是不能保持输出的一致性。我们应用了R-Drop，通过将Dropout作用于输出层，降低了训练和测试的不一致性，同时引入对称KL散度作为正则项，增强了输出的稳定性。在实验过程中，我们发现对输出层使用两次dropout效果较好。此外我们还对训练数据进行了同语义问题的数据增强，加入相同语义query下的段落输出部分的KL-Loss，增强了模型的稳定性。

④答案归一化和多span问题

在抽取式阅读理解中，由于多文档表述的不一致，往往会遇到答案归一化的问题，比如“安全带使用期限是几年”的问题答案可能有“3到5年”、“3年至5年等”；而且还有答案并不是连续判断，比如“沉鱼落雁指的是谁”这个问题中，答案可能对应文档中两个片段（span）。为了解决上述问题，我们尝试用生成式阅读理解方法，以Fusion-in-Decoder（FiD）为例，将检索得到的多文档分别进行编码表示，拼接起来输入到decoder生成统一的答案。

实践中利用大规模点击日志文档生成查询进行预训练，利用短答案日志构建大量弱监督数据进行自训练，有效提升了生成式阅读理解的效果。由于生成模型输出的答案得分其实是语言模型的困惑度，不能很好地刻画答案本身的置信度，我们训练了一个生成答案的置信度预测模型，对答案输出进行决策。

（2）长答案MRC

相比短答案，长答案MRC受到的研究关注相对较少，一方面因为问题更加复杂，数据集稀缺，另一方面因为长答案在内容和表达方式上有不确定性，评价起来也相对较难。

搜索场景中长答案和短答案主要有以下几个方面的差异：

①长答案MRC-组合式问答

针对长答案包含信息量大、不连续的特点，我们提出了一种“组合式问答”的任务形式：从搜索结果的单个文档中抽取出一组片段来合成精选摘要答案。任务输入为给定问题和文档的完整片段组合，输出为答案片段组合。评价方式为片段预测的F1和人工评价相结合。

组合式问答模型的整体框架基于BERT，输入是问题和进行了启发式分句的文档句子序列，输出是每个句子是否是答案的概率。我们引入了两个非常有用的设计。

第一个是引入页面的结构信息。由于网页的HTML能够一定程度上反映页面结构、文本关联以及展示内容的重要度等特征，我们选择了部分网页标签作为符号输入到模型中。

第二个是引入针对性的预训练任务。—般预训练都是建模句子级别的关系，没有有效挖掘文档结构的信息；我们引入了两类相关的预训练任务，一类是问题选择（QS），即随机替换一个问题并预测；另一类是节点选择（NS），可以对句子和符号进行随机替换或打乱顺序。这样的预训练任务可以让模型更深刻地理解问题和长文本的内容。

由于文档具有层级结构，一个自然的想法是利用图网络来建模。我们尝试在模型输出侧增加图网络，将句子中词的连接、句子之间的连接以及问题和句子的连接用图结构表示并通过Attention Mask实现，实验表明加入层次结构信息的效果提升明显。

长答案阅读理解中同样可以采用短答案阅读理解类似的思路：（1）同时预测文档可答概率和答案句子概率；（2）引入门机制学习文档和句子的关系；（3）使用R-drop提升鲁棒性。

我们发现模型对问题的理解仍然不够充分。举一个极端的例子：当不输入问题，直接针对文档预测长答案，模型仍然能够达到一定的抽取效果。说明阅读理解模型输出的答案受到文档本身的影响较大，而对问题的关注不够。为了解决这个问题，我们做了一些数据样本增强和对抗的工作。一方面通过主动学习不断优化训练数据，让模型学习到更多不会的能力，另一方面通过点击日志挖掘同一个文档下语义相同或不同的query。由于同一个文档中的不同部分可以回答不同的问题，这样可以让模型更关注问题相关的信息，而不是文档本身。

（3）长答案MRC-判断类观点问答

对于判断类观点问答任务，考虑到用户不会仅仅满足于论断，而会更关心论据，我们设计了一个模型，首先抽取能够回答问题的长答案，即论据，然后根据该论据做论断的分类，产生一个短答案。

模型的整体结构是基于长答案模型结构的改进，在抽取长答案的同时，将query、title和长答案抽取过程中最高概率答案句拼接起来输入判断模块。通过论据抽取和论点分类两个目标的联合学习，模型可以解决短答案抽取无法解决的问题。比如在下图的例子中，对于“把兔子关在笼子里好吗”这个问题，短答案抽取并不能直接抽取出“好”或者“不好”的答案片段，而通过分类可以知道它是一个否定的回答。

（4）问答式搜索

DeepQA的一个重要部分是从大规模数据检索出相关候选文档，才能通过阅读理解模型抽取答案。传统搜索更关注相关性，即文档和问题相关，而问答更关注检索结果是否能回答问题，这是问答式搜索和传统搜索的不同。

问答式搜索系统需要一种更细粒度、更精准的语义检索匹配方式。稠密段落检索，即通过深度语义表示学习，从大规模文本中检索出和查询相关的段落，包括自然段、任意句子、词片段。稠密段落检索是稠密向量检索的一种。传统基于关键字词构建的倒排检索（稀疏检索），虽能精确地召回结果，但是会面临比较严重的语义鸿沟问题；而稠密向量检索是解决查询和文档之间语义鸿沟的有效手段，但是从符号到向量的表示过程损失了一定的语义。所以需要对稠密向量表示进行优化，并设计合适的向量检索和语义匹配方法。

问答式搜索也是一个从大规模数据到少量能抽取答案的文档的金字塔式筛选过程。为了提高在线服务效率，在面向海量数据的召回和初排阶段一般使用非交互式匹配模型，待检索到一定规模的相关候选后再采用更精细化也更加耗时的交互式匹配模型。交互式和非交互式匹配模型各有其优缺点，如图所示。

• 稠密段落检索模型

我们选用非交互式异形双塔模型进行稠密段落检索的Query-Passage语义表示学习。通过网页搜索日志和问答对数据可以获取大量的正负样本，从而进行大规模对比学习。

这里介绍一种向量表示的优化方法——Barlow-Twins。通过在训练目标里加上一个相关性去除目标，降低向量表示的冗余性，使得训练出来的向量在空间的分布非常均匀。

负采样方法是对比学习中非常重要的一环，对稠密向量表示效果有很大影响，我们对负采样进行了两个方面的优化：

一个是很多相关工作都会采用的Cross-batch负采样，在多 GPU 并行训练时，将其它 GPU 批次内的全部段落作为当前问题的负样本，极大地增加了负样本数，也使得训练效率得到很大提升。Cross-batch负采样还能缓解训练和推理时负样本分布的不一致性，因为在问答式搜索中，模型需要从大规模数据集中找到相关答案候选，但训练过程见到的查询段落样本通常远小于预测时的候选数据规模，这会导致模型在训练时表现良好而在应用中不够好。

另一个是提升负样本的质量。一方面需要让负样本对模型来说更难，这样能学习到更多的知识。另一方面要尽可能少地引入False Negative样本。我们提出了混合降噪负采样策略：先通过非降噪负采样，例如已有的召回模型（BM25、初始训练的召回模型等）进行Top-K采样，这样得到的样本相对较难，当然也会引入一些False Negative；然后进行降噪负采样，通过训练一个Re-ranker对样本进行筛选，去除实际可能是正例的噪声；两者结合训练，实验证明效果提升非常明显。

• Query-Passage交互匹配模型

召回阶段的核心任务是区分答案相关和不相关的候选，召回之后就需要通过匹配更进一步排序这些候选文档。这里简要介绍一下我们的Query-Passage交互匹配模型。

模型训练主要分三个阶段，首先利用大规模网页数据，包括百科、微信、知乎以及问答点击页面等多样的数据进行预训练；接下来是对比式弱监督训练，通过点击和曝光未点击数据、问答对结合负采样构造正负样本；最后在人工标注的问答匹配数据上进行训练。人工标注的样本有四类标签，分别是完全不相关、相关、能部分回答问题、能完整地很好回答问题。为了进一步提升模型效果，我们还使用了自训练技术，利用人工标注数据训练模型之后，通过该模型进行大量的自动化标注并从中筛选一些高质量标注数据，继续训练原始模型。多次迭代之后，模型的泛化性能会有较大的提升。

--

03

前沿研究

下面介绍开放域智能问答的一些相关前沿研究和进展。

1. 端到端问答

近年来关于开放域端到端问答的研究如火如荼，下图摘自ACL 2020 Tutorial: Open domain question and answering，对端到端问答系统发展的总结。

第一代端到端问答模型采取两阶段的方式，通过检索器和阅读器串联来进行答案提取，例如DrQA；前面我们所讲的DeepQA系统也是遵循这种范式的设计；第二代的模型为阅读器和检索器联合优化的模型，如R3、DenSPI；第三代的模型不需要检索器，直接通过模型生成答案，如T5、GPT3。

检索器和阅读器的联合优化是一个难点。一种方法是将检索的文档看做隐变量，依靠EM优化语义表示模型和生成模型，即通过阅读器的输出概率作为检索器优化的目标，反过来再基于检索器的输出优化阅读器的输出概率。这样交替进行同时提升阅读器和检索器的效果。我们尝试了一种Hard-EM的方法，直接把预测答案是否包含于检索文档作为硬匹配信号来优化文档检索的过程。如下图所示，通过答案硬匹配文档获得训练三元组<q, d, a>，然后训练FiD答案抽取模型，再利用新的答案抽取模型预测出来的更优质的答案，继续硬匹配和过滤候选文档输入。几轮循环之后答案抽取的EM和F1指标均得到提升。

2. 知识指导的问答

如何在深度模型中引入知识也是问答研究的热点。真实场景中有很多问题需要知识推理，比如“小汽车科目二多少分及格”这个问题，示例的法规文本里没有明确的描述，但是可以根据推理得到答案；“葡萄籽油的食用方法”这个问题，不同答案中包含的“知识点”相互存在冲突和分歧，需要进行知识验证。

知识指导的问答相关工作，有一种是把特定的知识输入到答案抽取模型一起学习，比如K-BERT，把原输入中实体所涉及到的三元组通过软位置编码的方式融合到输入中，从而引入了实体相关的知识。另一类方法是通过知识增强的预训练模型提升下游任务的效果。

QQ浏览器搜索内容技术团队还提出了一种知识增强预训练的方法，该模型引入了三类知识性任务，包括远程关系监督分类、三元组文本mask预测、以及同类实体替换预测，训练过程中将这三类任务和语言模型任务结合在一起训练。为了保证原始模型的参数在训练过程中不会有灾难性遗忘，设计了一个新的知识记忆结构，将原有模型的所有参数固定住，只用这个新的知识记忆矩阵承载上面多任务引入的知识。实验证明知识增强的预训练在很多下游任务上都能够获得一定的提升，尤其是在上下文不充分的短文本任务上。

3. 多模态问答

当前越来越多的优质内容以视频形式存在，从文本答案到视频答案也是一个大的趋势。基于视频载体的问答需要对视频内容进行感知分析+语义分析，进而通过显示/隐式的语义表示和计算（检索、匹配、阅读、生成）得到视频化的答案。

我们现在做的一个比较初步的工作是利用视频的语音和字幕进行视频文本化，然后通过阅读理解结合文本生成的技术进行视频答案摘要，通过文本生成和字幕时间匹配，还能得到视频分段以及关键帧标签。右图是我们在视频问答做出来的短答案摘要的效果，相对于文本答案可以给用户提供更多便捷性的帮助。未来还有更多基于多模态内容的问答研究值得探索。

--

04

Q&A

Q1：针对用户的query，KBQA和DeepQA的执行顺序是什么?

A1：两者是同步进行的，最后根据答案产生的情况做决策。DeepQA这边还会有一个问题分类的模块，判断问题的答案是短答案还是长答案。所以底层是多个系统的并行，包括KBQA系统、短答案系统和长答案系统。

Q2：自己尝试后发现DeepQA的响应非常慢，工业应用中通过什么方式来提高问答响应的速度?

A2：响应的速度分为两个方面，检索模块和阅读理解模块的响应。需要看这两部分分别耗时，也需要分别优化。检索模块往往会通过分层筛选的方式来限制输入文本的数量。计算越复杂的模块，输入文本数量越少。召回阶段我们采用非交互式模型快速获得相关文本，排序阶段再使用更复杂的交互式模型进行少量精细化计算。最后阅读理解模块的文本输入相对更少了，目前只针对Top10结果去做计算。以上是系统层面的优化。

具体到模型优化的话，可能就会需要具体看输入的文本长度、模型复杂度，模型所使用的推理系统，推理器和硬件的匹配情况等。最主要的是需要去分析响应时间慢的瓶颈的问题，然后再针对性解决。

Q3：针对用户的query也会有拼写纠错的处理，什么时候会触发这个处理？怎么处理?

A3：纠错不是问答独有的问题，是整个搜索系统面临的问题。在搜索的最开始也就是查询分析的模块，不仅有纠错，还有查询的分词，查询重要度的分析，查询词之间的关系分析等。纠错往往是搜索前置的模块，纠错之后的处理也会有不同，比如对置信度非常高的纠错，可以直接修改查询。系统更保险的做法是触发二次查询，也就是将原词的搜索结果和纠错后的搜索结果同时拿到，然后再根据结果的反馈综合决策。

今天的分享就到这里，谢谢大家。

分享嘉宾：姚婷 腾讯 专家研究员

编辑整理：王惠灵 合肥工业大学

出品平台：DataFunTalk

01/分享嘉宾

姚婷｜腾讯 专家研究员

毕业于清华大学计算机系，从事自然语言处理、搜索排序、智能问答方向的研究工作，负责主导了搜狗搜索“立知”问答系统研发。目前担任腾讯PCG搜索应用部专家研究员，负责QQ浏览器搜索中智能问答技术的研究和落地应用。

02/关于我们

DataFun：专注于大数据、人工智能技术应用的分享与交流。发起于2017年，在北京、上海、深圳、杭州等城市举办超过100+线下和100+线上沙龙、论坛及峰会，已邀请超过2000位专家和学者参与分享。其公众号 DataFunTalk 累计生产原创文章700+，百万+阅读，14万+精准粉丝。