言
目前,教学、教研各种内容线上沉淀、展示丰富多彩,但线上内容“线下化”能力不足或过分依赖人力,比如,线上练习题组卷后以PDF形式分发给学生,家长希望将考试、练习题目打印后,学生带到学校去做(高中生使用手机等电子设备的时间有限),线上各类分析报告以PDF形式分享给学生/家长等。
从业务方面看,不同业务线的多个业务场景都有输出PDF的诉求,如果各业务线自己设计、实现符合自身业务场景的具体方案,除调研、开发工作量较大之外,还会有重复调研,踩坑的情况。
从技术角度看,线上内容转PDF的内容源头来自于H5富文本内容,业界内以此为基础的PDF生成方案多种多样,也各有优劣,比如:
方案对比-表格-1
因此,我们综合了各种PDF生成方案并总结了在探索讲义生成PDF过程中的经验,抽象出了一套通用的,可复用的能力供各业务线快速利用,基本方案和优劣如下:
最终方案-表格-2
目 标
旨在提供一套以H5为载体的PDF通用生成方案,这套方案有如下特点:
这套方案可分为两个核心部分,页面展示侧 - Medusa,PDF生成侧 - Hydra
页面展示侧 - Medusa
我们页面展示侧的通用能力——Medusa,是基于Paged.js的二次封装,并以NPM包形式提供给业务方使用。Medusa可对任何HTML进行分页、并根据配置添加页眉、页脚等,最终将处理后的HTML渲染到页面中。Medusa封装并简化了对PDF格式的配置,可覆盖绝大多数业务场景,使得各业务场景将更多精力投入其自身业务逻辑的开发。
之所以选择Pagedjs为基础开发我们自己的SDK,是因为它是目前我们能找到的唯一开源的、具有HTML内容分页,样式处理的前端库,同时我们也在讲义中经过了长期的摸索与沉淀。
接下来将详细介绍Paged.js原理、Medusa支持的功能与使用方法。
一 Paged.js是如何工作的
Paged.js包含了 3 个大模块
这里将主要介绍 Previewer 和 Chunker,因为我们的二次开发和维护不涉及到Polisher。
Previewer
Previewer 的工作非常简单,但我们会主要利用它封装我们的Medusa,初始化一个Previewer对象,Previewer初始化了Chunker和Polisher对象:
Medusa-代码-1
再调用Previewer的preview()方法,preview()方法做了两件事:
Medusa-代码-2
当chunker.flow结束,即可在浏览器看到整个页面处理完之后的样子。
Chunker
首先,Chunker解析、预处理需要分页的HTML,为其添加一些必要的属性
Medusa-代码-3
然后创建容纳所有页(pages)的容器,并挂载到renderTo容器下(默认Body),以备组织后续的所有页:
Medusa-代码-4
接着,chunker创建了一个page模版,以便增加页面使用:
Medusa-代码-5
其中,TEMPLATE是Pagedjs内部创建页面时所使用的基础模版。
Medusa-代码-6
接下来,chunker进入了渲染+分页过程(这个过程我们不会在二次开发中做修改,但需要了解其基本思路以便在出问题时能有解决思路),这个过程在循环一个迭代器(*layout),迭代器一直在做3件事:
原则:
寻找overflow时会将尽可能多的内容节点插入内容区域,这里,“尽可能多”分为几种情况,比如:
步骤:
Pagedjs遵循了如下步骤去寻找overflow:
两个前置条件:
i. 从需要处理的内容第一个节点开始,判断是否 node.left >= contentArea.right || node.top >= contentArea.bottom
Medusa-代码-7
ii.如果不满足,则判断 node.right <= contentArea.right && node.bottom <= contentArea.bottom
Medusa-代码-8
iii.如果不满足,那说明有子节点overflow了,则继续深入其子节点查找即可。
3.使用模版添加新的页面,并从BreakToken处继续上述动作。
二 Medusa支持的功能及使用方法
基于Paged.js,Medusa支持了如下功能,并为业务方提供了更加简洁、定制化的配置。
下方是调用Medusa的代码示例:
Medusa-代码-9
1.1 动态页面分页能力
Medusa核心功能,可将连续的HTML页面转化成一页页PDF样式的HTML。
1.2 单页模版配置 -> 生成能力
通过Grid布局,Paged.js将一个单页模版分为多个区域,整体分为2个大的部分:
业务方通过简单的配置,即可还原UI设计稿中的PDF样式,例子如下图:
1.2.1 base
页面基础配置是对每页的。支持纸型或页面宽高、内容区域margin、padding、背景及水印的设置。
在封装Medusa时,Medusa将读取传入的页面模版配置、静态页内容配置,并将样式上的配置解析并转化为Previewer可理解的样式内容,比如页面宽高的设置:
Medusa-代码-10
将被转化为:
Medusa-代码-11
1.2.2 surround
2. 目前支持3种类型的surround item:
example:
Medusa-代码-12
1.3 前/后置静态页面
业务方可通过如下方式配置静态页面的具体内容:
Medusa-代码-13
其中,传入的React JSX Element将会被这样处理:
Medusa-代码-14
处理完成后,将HTML String拼接到页面模版中,再插入分页后内容的前后。
PDF生成侧 - Hydra:
页面展示侧为PDF生成做好了页面的准备,对于PDF生成侧,需要做的工作就更纯粹了,业务方除了请求生成PDF,定期检查PDF生成的进度,无需做任何额外工作。
1.整体流程:
PDF生成是CPU和内存密集型的,由于页面内容的不确定性,也意味着页面渲染时间与生成PDF的时间都是不确定的,因此整体PDF生成的链路被设计成是异步的,如下图:
整体流程上,业务方在请求生成PDF时,会先在后端做一条记录,后端再将任务发送给Node服务,即Hydra;
在生成PDF时, 第 1 步是做页面上的准备,一个生成任务可能有多个URL页面需要生成PDF,所以我们预先启动对应URL数量的PPTR Page,页面都启动完成后,进入下一步;
第 2 步:渲染页面,这个过程中,如果请求是包含多个URL的,这些页面会同步渲染,在所有页面渲染完成后,进入下一步。
第 2.5 步,如果是需要生成连续页码的一整个PDF,还会做额外的一个动作:页码矫正,通过页码矫正,可以将同步渲染的每个页面,按照其之前页面的页码数修正,以保证整体PDF的页码的连贯。
第 3 步,通过PPTR Page的能力将页面转换为PDF buffer,如有必要,再将生成的PDF buffer拼接到一起生成一整个PDF,或者将每个PDF buffer都生成一个PDF,压缩成zip文件。
第 4 步,文件上传OSS,最终返回OSS CDN链接。
2.请求生成PDF:
业务侧请求将对应页面生成PDF的时,只需传入如下字段:
Hydra-代码-1
3.PDF生成过程:
正如在整体流程中所述,PDF生成侧,我们借助 PPTR 的能力打开页面并生成PDF流。
在页面调用 Medusa 分页、组装能力时,所有内容分页组装完成后会向body中插入了一个额外的DOM以标识该页面处理完成:
Hydra-代码-2
这是为了 Hydra 感知页面渲染完成所做的准备,当生成服务的 PPTR 等到该DOM出现时,则表示页面成功渲染并处理完成了:
Hydra-代码-3
此后,在上面已经提到过,对于需要将多个页面生成的PDF拼接成一个PDF的情况,在生成PDF之前需要做一个重要的动作,即页码矫正,原因如下:
并且我们不希望页面的处理是串行的,因为串行势必导致速度较慢,生成时间长。
这个问题的解决方案如下:
1. 对于每个页面都启用一个page,并同时处理
2. 每个页面处理完成后(pdfLastDOM出现),通过Page.$eval()来统计页数并记录:
Hydra-代码-4
3. 计算出页面中分页之后每一个页面的起始页码,以及所有页面的页码总和
4. 再修改页码容器样式的 counterReset 值即可,其后续页码可自递增。
Hydra-代码-5
5. 之后,再通过 Medusa 在页面window对象中Polyfill的相关配置,比如需要生成的PDF的单页宽、高以生成PDF流。
Hydra-代码-6
6. 最后如有必要,通过pdf-lib拼接这些 pdfBuffer 即可。
Hydra-代码-7
7. PDF生成完成后,上传OSS并返回URL链接
4.性能、稳定性保证:
在整体方案落地前,我们对服务进行了多次性能测试:
以下载题目为例,在4个容器,每个容器 3C 12G 的配置下的并行处理能力如下:
对于 20 道题目,每个PDF生成任务在 15 页左右,平均 1 分钟内能完成 280 个任务的处理。
对于 40 道题目,每个PDF生成任务在 30 页左右,平均 1 分钟内能完成 105 个任务的处理。
对于 60 到题目,每个PDF生成任务在 40 页左右,平均 1 分钟内能完成 54 个任务的处理。
同时,根据 Hydra 服务的整体的处理能力,后端通过任务队列的形式帮助我们保证服务不被瞬间的突刺流量击垮。
已接入/正在接入的相关业务线及场景:
目前,公司有 5 大业务线,8 个场景已经完全接入我们的能力用于 H5 转 PDF,如下是错题本、内容资料库接入后生成的PDF样例:
错题本:
内容资料库试卷:
未来展望
目前整体的PDF生成方案已经能够满足大多数场景和内容,但依然有可改进空间。
HTML的流式布局要求我们必须手动的对内容分页,才能添加页眉,页脚等(即Mdusa做的工作),正因为如此,在处理复杂的内容时,可能会出现一些问题:比如,遇到复杂表格时,由于表格可能会有多种多样的行、列合并,同时表格单元格内的内容也可以多种多样,在分页过程中,Medusa内部的PagedJS并不能完美的处理对于长、且复杂的表格的分割,因此可能遇到分割后表格单元格缺失、错乱或宽高错误的问题,这些问题在讲义中体现较明显。
我们仍在持续关注与研究复杂DOM内容的分割问题,会尝试加以优化和改进PagedJS的能力,同时,我们也以另外一种思路设计了自己的DOM分页器方案,但经过评估,由于实现比较复杂,成本较高,暂时没有投入开发资源。
不过,我们相信,未来我们一定能以更完美的方式分割DOM以生成更高质量的PDF。
作者:高源、陈欣博
来源:微信公众号:高途技术
出处:https://mp.weixin.qq.com/s/c_N7jdNklrNFKR_Cub2Tgg
一篇文章我们介绍了一个html/xml解析器——htmlparser,这篇文章我们介绍另外一个解析模块htmlparser2,后者是对前者的重构,同时对前者的API做了部分兼容。
安装
const { Parser } = require('htmlparser2');
const parser = new Parser(handler, options);
parser.parseComplete('html/xml内容');
写法
const { Parser } = require('htmlparser2');
const parser = new Parser(handler, options);
parser.parseComplete('html/xml内容');
htmlparser2提供了一个解析器——Parser,初始化它至少需要一个handler,options是可选的。
handler是一个对象,在这个对象上可以设置很多的钩子函数,Parser解析时会在每个阶段运行对应的钩子函数。
以下是可以设置的所有的钩子函数,
htmlparser模块是通过正则表达式来解析html内容的,而htmlparser2则不同,它会按顺序读取html的每个字符,并且推测后面字符是标签名、属性还是其他的类型,所以htmlparser2在解析完每一个标签后都会运行相应的钩子函数。
先来看一下例子,
图1
图1中设置了所有的钩子函数以便来说明每个钩子函数的作用,运行一下,
图2
对照图1和图2就能看出来每个钩子函数的运行时机,这其中有以下几个钩子函数需要注意一下。
除了自定义handler以外,htmlparser2还提供了几个handler,比如DomHandler,用法如下:
图3
运行一下,我们看看结果,
图4
如果4所示,DomHandler处理的结果是以数组的形式输出的,在每个单元数据中还可以拿到上一个、下一个以及父节点的数据。
htmlparser2还可以通过操作流Stream解析内容,写法如下:
图5
这篇文章和上一篇是姊妹篇,都是介绍解析html/xml内容的模块,通过对比,我们发现htmlparser2模块功能更强大一些,也更灵活一些,同时也兼容htmlparser模块的一些接口。虽然两者功能类似,但是这给了我们更多的选择性。
喜欢我的文章就关注我吧,有问题可以发表评论,我们一起学习,共同成长!
)JavaScript基本组成
1.1基本语法几乎所有浏览器基本都支持,有专门的机构制定统一标准
1.2Dom(文档对象)浏览器基本都支持,但有的可能会有差别到时再说(重点)
1.3Bom(浏览器对象)一般功能性的浏览器支持这个没有统一的标准,主要操作如打开关闭浏览器窗口,获取屏幕的分辨率screen,XmlHttpRequest(异步对象)等
2)JavaScript的语法
2.1Javascript严格区分变量的大小写;比如 a与A代表的是两个不同的变量
2.2Javascript中声明变量时只有一个关键字var(ES5),Javascript是一个弱类型的编程语言;比如声明一个变量a var a; a=3(数值) 或者a="3"(字符串)都是正确的,与C#中的不一样;每条语句后加分号(分号建议加上)
如果变量使用前不用var声明,这样的变量就变成了“全局变量”
2.3Javascript中的注释,与C#的相同 //单行注释、/* 多行注释 */
2.4变量的命名规则:以字母,下划线或$开头,中间可以包括任意的字母,数字,下划线或$。(与C#相比变量命名中多了一个$)
2.5JavaScript中即可以使用双引号或者单引号声明字符串变量,主要是为了方便和html的兼容,避免转义符的麻烦
2.6每次修改过JavaScript中的代码后直接保存,在浏览器中刷新即可
3)JavaScript代码
javascript代码需要写在<script></script>标签中而<script>标签可以写在<head>,<body>等任意位置,一个网页中也可以有多个<script></script>标签(此标签最好是成对出现)
<script>标签标准格式:<script type="text/javascript">js代码</script>
如果<script>标签放到<head>中,则代码在body加载之前就已经运行了;如果写在body中的<script>是随着页面的加载而一个个执行的
如果代码运行遇到错误,有错误的<script></script>中的代码不会执行,但也不会影响后面的其他<script></script>中的代码和html的显示
JavaScript代码可以直接写在网页中,也可以将JavaScript代码写到单独的js文件中,其扩展名就是**.js, 写好此js文件后在页面中再引入此文件;建议写在网页的最后,因为javascript代码执行顺序是从上到下依次执行,如果引用文件写在head中很大可能会报错(操作DOM对象)
<script src="文件名.js" type="text/javascript"></script> src后面的路径为相对路径
查看javascript代码
<!DOCTYPE html>
<html xmlns="http://www.w3.org/1999/xhtml">
<head>
<meta http-equiv="Content-Type" content="text/html; charset=utf-8"/>
<title>JavaScript</title>
<script type="text/javascript">
// javascript代码 单行注释
/* javascript代码 多行注释*/
var a=3;
alert(a);//弹出对话框
a="3";
alert(a);
</script>
</head>
<body>
</body>
<script src="**.js" type="text/javascript">只能引用文件,不能书写代码</script>
</html>
alert(a);自己查看弹出的对话框的值
*请认真填写需求信息,我们会在24小时内与您取得联系。