小新 编译自 Insight Data Blog
量子位 出品 | 公众号 QbitAI
写个网页能有多麻烦?在大多数公司里,这项工作分为三步:
1. 产品经理完成用户调研任务后,列出一系列技术要求;
2. 设计师根据这些要求来设计低保真原型,逐渐修改得到高保真原型和UI设计图;
3. 工程师将这些设计图实现为代码,最终变成用户使用的产品。
这么多环节,任何地方出一点问题,都会拉长开发周期。因此,不少公司,比如Airbnb已经开始用机器学习来提高这个过程的效率。
△ Airbnb内部的AI工具,从图纸到代码一步到位
看起来很美好,但Airbnb还没公开该模型中端到端训练的细节,以及手工设计的图像特征对该模型的贡献度。这是该公司特有的闭源解决方案专利,可能不会进行公开。
好在,一个叫Ashwin Kumar的程序员创建了一个开源版本,让开发者/设计师的工作变得更简单。
以下内容翻译自他的博客:
理想上,这个模型可以根据网站设计的简单手绘原型,很快地生成一个可用的HTML网站:
△ SketchCode模型利用手绘线框图来生成HTML网站
事实上,上面例子就是利用训练好的模型在测试集上生成的一个实际网站,代码请访问:https://github.com/ashnkumar/sketch-code。
目前要解决的问题属于一种更广泛的任务,叫做程序综合(program synthesis),即自动生成工作源代码。尽管很多程序综合研究通过自然语言规范或执行追踪法来生成代码,但在当前任务中,我会充分利用源图像,即给出的手绘线框图来展开工作。
在机器学习中有一个十分热门的研究领域,称为图像标注(image caption),目的是构建一种把图像和文本连接在一起的模型,特别是用于生成源图像内容的描述。
△ 图像标注模型生成源图像的文本描述
我从一篇pix2code论文和另一个应用这种方法的相关项目中获得灵感,决定把我的任务按照图像标注方式来实现,把绘制的网站线框图作为输入图像,并将其相应的HTML代码作为其输出内容。
注:上段提到的两个参考项目分别是
pix2code论文:https://arxiv.org/abs/1705.07962
floydhub教程:https://blog.floydhub.com/turning-design-mockups-into-code-with-deep-learning/?source=techstories.org
确定图像标注方法后,理想中使用的训练数据集会包含成千上万对手绘线框图和对应的HTML输出代码。但是,目前还没有我想要的相关数据集,我只好为这个任务来创建数据集。
最开始,我尝试了pix2code论文给出的开源数据集,该数据集由1750张综合生成网站的截图及其相应源代码组成。
△ pix2code数据集中的生成网站图片和源代码
这是一个很好的数据集,有几个有趣的地方:
该数据集中的每个生成网站都包含几个简单的辅助程序元素,如按钮、文本框和DIV对象。尽管这意味着这个模型受限于将这些少数元素作为它的输出内容,但是这些元素可通过选择生成网络来修改和扩展。这种方法应该很容易地推广到更大的元素词汇表。
每个样本的源代码都是由领域专用语言(DSL)的令牌组成,这是该论文作者为该任务所创建的。每个令牌对应于HTML和CSS的一个片段,且加入编译器把DSL转换为运行的HTML代码。
为了修改我的任务数据集,我要让网站图像看起来像手工绘制出的。我尝试使用Python中的OpenCV库和PIL库等工具对每张图像进行修改,包括灰度转换和轮廓检测。
最终,我决定直接修改原始网站的CSS样式表,通过执行以下操作:
1. 更改页面上元素的边框半径来平滑按钮和DIV对象的边缘;
2. 模仿绘制的草图来调整边框的粗细,并添加阴影;
3. 将原有字体更改为类似手写的字体;
最终实现的流程中还增加了一个步骤,通过添加倾斜、移动和旋转来实现图像增强,来模拟实际绘制草图中的变化。
现在,我已经处理好数据集,接下来是构建模型。
我利用了图像标注中使用的模型架构,该架构由三个主要部分组成:
1. 一种使用卷积神经网络(CNN)的计算机视觉模型,从源图像提取图像特征;
2. 一种包含门控单元GRU的语言模型,对源代码令牌序列进行编码;
3. 一个解码器模型,也属于GRU单元,把前两个步骤的输出作为输入,并预测序列中的下一个令牌。
△ 以令牌序列为输入来训练模型
为了训练模型,我将源代码拆分为令牌序列。模型的输入为单个部分序列及它的源图像,其标签是文本中的下一个令牌。该模型使用交叉熵函数作为损失函数,将模型的下个预测令牌与实际的下个令牌进行比较。
在模型从头开始生成代码的过程中,该推理方式稍有不同。图像仍然通过CNN网络进行处理,但文本处理开始时仅采用一个启动序列。在每个步骤中,模型对序列中输出的下个预测令牌将会添加到当前输入序列,并作为新的输入序列送到模型中;重复此操作直到模型的预测令牌为,或该过程达到每个文本中令牌数目的预定义值。
当模型生成一组预测令牌后,编译器就会将DSL令牌转换为HTML代码,这些HTML代码可以在任何浏览器中运行。
我决定使用BLEU分数来评估模型。这是机器翻译任务中常用的一种度量标准,通过在给定相同输入的情况下,衡量机器生成的文本与人类可能产生内容的近似程度。
实际上,BLEU通过比较生成文本和参考文本的N元序列,以创建修改后的准确版本。它非常适用于这个项目,因为它会影响生成HTML代码中的实际元素,以及它们之间的相互关系。
最棒的是,我还可以通过检查生成的网站来比较当前的实际BLEU分数。
△ 观察BLEU分数
当BLEU分数为1.0时,则说明给定源图像后该模型能在正确位置设置合适的元素,而较低的BLEU分数这说明模型预测了错误元素或是把它们放在相对不合适的位置。我们最终模型在评估数据集上的BLEU分数为0.76。
后来,我还想到,由于该模型只生成当前页面的框架,即文本的令牌,因此我可以在编译过程中添加一个定制的CSS层,并立刻得到不同风格的生成网站。
△ 一个手绘图生成多种风格的网页
把风格定制和模型生成两个过程分开,在使用模型时带来了很多好处:
1.如果想要将SketchCode模型应用到自己公司的产品中,前端工程师可以直接使用该模型,只需更改一个CSS文件来匹配该公司的网页设计风格;
2. 该模型内置的可扩展性,即通过单一源图像,模型可以迅速编译出多种不同的预定义风格,因此用户可以设想出多种可能的网站风格,并在浏览器中浏览这些生成网页。
受到图像标注研究的启发,SketchCode模型能够在几秒钟内将手绘网站线框图转换为可用的HTML网站。
但是,该模型还存在一些问题,这也是我接下来可能的工作方向:
1. 由于这个模型只使用了16个元素进行训练,所以它不能预测这些数据以外的令牌。下一步方向可能是使用更多元素来生成更多的网站样本,包括网站图片,下拉菜单和窗体,可参考启动程序组件(https://getbootstrap.com/docs/4.0/components/buttons/)来获得思路;
2. 在实际网站构建中,存在很多变化。创建一个能更好反映这种变化的训练集,是提高生成效果的一种好方法,可以通过获取更多网站的HTML/CSS代码以及内容截图来提高;
3. 手绘图纸也存在很多CSS修改技巧无法捕捉到的变化。解决这个问题的一种好方法是使用生成对抗网络GAN来创建更逼真的绘制网站图像。
代码:https://github.com/ashnkumar/sketch-code
原文:https://blog.insightdatascience.com/automated-front-end-development-using-deep-learning-3169dd086e82
— 完 —
诚挚招聘
量子位正在招募编辑/记者,工作地点在北京中关村。期待有才气、有热情的同学加入我们!相关细节,请在量子位公众号(QbitAI)对话界面,回复“招聘”两个字。
量子位 QbitAI · 头条号签约作者
վ'ᴗ' ի 追踪AI技术和产品新动态
TML: HyperText Markup Language 超文本标记语言
HTML代码不区分大小写, 包括HTML标记、属性、属性值都不区分大小写;
任何空格或回车键在代码中都无效,插入空格或回车有专用的标记,分别是 、<br>
HTML标记中不要有空格,否则浏览器可能无法识别。
如何添加注释(comment:评论;注释)
<!-- -->
<comment></comment>
<!-- --> 不能留有空格
字符集
<meta http-equiv="Content-Type" content="text/html;charset=#"/>
<base target="_blank">
可以将a链接的默认属性设置为_blank属性
单个标签要有最好有结束符(可以没有结束符)
<br/> <img src="" width="" />
便于兼容XHTML(XHTML必须要有结束符)
HTML标签的属性值可以有引号,可以没有引号,为了提高代码的可读性,推荐使用引号(单引号和双引号),尽管属性值是整数,也推荐加上引号。
<marquee behavior="slide"></marquee>
便于兼容XHTML(XHTML必须要有引号)
<marquee behavior=slide></marquee>
经过测试,以上程序都可以正确运行
HTML标签涉及到的颜色值格式:
color_name 规定颜色值为颜色名称的文本颜色(比如 "red")。
hex_number 规定颜色值为十六进制值的文本颜色(比如 "#ff0000")。
rgb_number 规定颜色值为 rgb 代码的文本颜色(比如 "rgb(255,0,0)")。
transparent 透明色 color:transparent
rgba(红0-255,绿0-255,蓝0-255,透明度0-1)
opacity属性: 就是葫芦娃兄弟老六(技能包隐身)
css:
div{opacity:0.1} /*取值为0-1*/
英文(颜色值)不区分大小写
HTML中颜色值:采用十六进制兼容性最好(十六进制显示颜色效果最佳)
CSS中颜色值:不存在兼容性
红色 #FF0000
绿色 #00FF00
蓝色 #0000FF
黑色: #000000
灰色 #CCCCCC
白色 #FFFFFF
青色 #00FFFF
洋红 #FF00FF
黄色 #FFFF00
请问后缀 html 和 htm 有什么区别?
答: 1. 如果一个网站有 index.html和index.htm,默认情况下,优先访问.html
2. htm后缀是为了兼容以前的DOS系统8.3的命名规范
XHTML与HTML之间的关系?
XHTML是EXtensible HyperText Markup Language的英文缩写,即可扩展的超文本标记语言.
XHTML语言是一种标记语言,它不需要编译,可以直接由浏览器执行.
XHTML是用来代替HTML的, 是2000年w3c公布发行的.
XHTML是一种增强了的HTML,它的可扩展性和灵活性将适应未来网络应用更多的需求.
XHTML是基于XML的应用.
XHTML更简洁更严谨.
XHTML也可以说就是HTML一个升级版本.(w3c描述它为'HTML 4.01')
XHTML是大小写敏感的,XHTML与HTML是不一样的;HTML不区分大小写,标准的XHTML标签应该使用小写.
XHTML属性值必须使用引号,而HTML属性值可用引号,可不要引号
XHTML属性不能简写:如checked必须写成checked="checked"
单标记<br>, XHTML必须有结束符<br/>,而HTML可以使用<br>,也可以使用<br/>
除此之外XHTML和HTML基本相同.
网页宽度设置多少为最佳?
960px
target属性值理解
_self 在当前窗口中打开链接文件,是默认值
_blank 开启一个新的窗口打开链接文件
_parent 在父级窗口中打开文件,常用于框架页面
_top 在顶层窗口中打开文件,常用语框架页面
字符集:
charset=utf-8
Gb2312 简单中文字符集, 最常用的中文字符
Gbk 简繁体字符集, 中文字符集
Big5 繁体字符集, 台湾等等
Utf-8 世界性语言的字符集
ANSI编码格式编码格式的扩展字符集有gb2312和gbk
单位问题:
HTML属性值数值型的一般不带单位, CSS必须带单位;
强制刷新
ctrl+F5
/一、html
//a、HTML语法规范
//a.1基本语法概述
1、HTML标签是由尖括号包围的关键字,例如,
2、HTML标签通常是成对出现的,例如和,我们成为双标签,标签对中的第一个标签是开始标签,第二个标签是结束标签。
3、有些特殊的标签是单个标签(极少情况),例如
,我们称为单标签
//a.2标签关系
双标签关系可以分为两类:包含关系和并列关系。
//b、HTML基本结构标签
//b.1第一个HTML网页
每个网页都会有一个基本的结构标签(也称为骨架标签),页面内容也是在这些基本标签上写的。
HTML页面也称为HTML文档
标签名 | 定义 | 说明 |
<html></html> | HTML标签 | 页面中最大的标签,我们称为根标签 |
<head></head> | 文档的头部 | 注意在head标签中我们必须要设置的标签是title |
<title></title> | 文档的标题 | 让页面拥有一个属于自己的网页标题 |
<body></body> | 文档的主体 | 元素包含文档的所有内容,页面内容,基本都是放到body里面的 |
必须是.html或.htm,浏览器的作用是读取HTML文档,并以网页的形式显示出它们。
此时,用浏览器打开这个网页,我们就可以预览我们写的第一个HTML文件了。
//c、开发工具vscode
1、<!DOCTYPE>标签
文档类型声明,作用就是告诉浏览器使用哪种HTML版本来显示网页
<!DOCTYPE html>这句代码的意思是:当前页面采用的是HTML5来显示页面。
2、lang语言
用来定义当前文档显示的语言:
a、en定义语言为英语
b、zh-CN定义语言为中文
简单来说定义为en就是英文网页,定义为zh-CN就是中文网页
其实对于文档显示来说,定义成en的文档也可以显示中文,定义zh-CN的文档也可以显示英文
这个属性对于浏览器和搜索引擎(百度、谷歌等)还是有作用的
3、charset字符集
字符集是多个字符的集合,以便计算机能够识别和存储各种文字
在标签内,通过标签的charset属性来规定HTML文档应该使用哪种字符编码。
charset常用的值:GB2312、BIG5、GBK和UTF-8,其中UTF-8也称为万国码,基本包含了全世界所有国家需要用到的字符。
注意:上面语法是必须写的代码,否则可能引起乱码的情况,一般情况下,统一使用"UTF-8"编码,尽量统一写成标准的"UTF-8",不要写成"utf-8"或"UTF8"。
//d、HTML常用标签
//d.1标签语义
学习标签是有技巧的,重点是记住每个标签的语义,简单理解就是指标签的含义,即这个标签是用来干嘛的
根据标签的语义,在合适的地方给一个最为合理的标签,可以让页面结构更清晰。
//d.2标题标签
-
(重要)
为了使网页更具有语义,我们经常会在页面中用到标题标签,HTML提供了6个等级的网页标题集
-
特点:
1、加了标题的文字会变得更加粗,字号也会依次变大。
2、一个标题独占一行。
//d.3段落和换行标签(重要)
在网页中,要把文字有条理地显示出来,就需要将这些文字分段显示,在HTML标签中,
标签用于定义段落,它可以将整个网页分为若干段落。
<p>我是一个段落标签</p>标签语义:可以把HTML文档分割为若干段落。
特点:
1、文本在一个段落中会根据浏览器窗口的大小自动换行。
2、段落和段落之间保有一个较大的空隙。
在HTML中,一个段落中的文字从左到右依次排列,直到浏览器的右端,然后自动换行,如果希望某段文本强制换行显示,就需要使用换行标签
<br />
单词break的缩写,意为打断,换行。
特点:
1、单标签
2、
标签只是简单地开始新的一行,跟段落不一样,段落之间会插入一些垂直的间距。
//d.4文本格式标签
在网页中,有时需要为文字设置粗体,斜体或下划线等效果,这时就需要用到HTML中的文本格式标签,使文字以特殊的方式显示
标签语义:突出重要性,比普通文字更重要。
语义 | 标签 | 说明 |
加粗 | <strong></strong>或者<b></b> | 更推荐使用<strong></strong>标签加粗,语义更强烈 |
倾斜 | <em><em> 或者<i><i> | 更加推荐使用<em><em>标签,语义更加强烈 |
删除线 | <del><del>或者<s><s> | 更加推荐使用<del><del>标签,语义更加强烈 |
下划线 | <ins><ins>或者<u><u> | 更加推荐<ins><ins>标签,语义更加强烈 |
//d.5<div>和<span>标签
<div>和<span>是没有语义的,它们就是一个盒子,用来装内容。
<div>这是头部</div>
<span>今日价格</span>
div是division的缩写,表示分割,分区,span意为跨度,跨距。
特点:
1、<div>标签用来布局,但是现在一行只能放一个<div>,大盒子。
2、<span>标签用来布局,一行上可以有多个<span>,小盒子
//d.6图像标签和路径(重点)
1、图像标签
在HTML标签中,<img>标签用于定义HTML页面中的图像。
<img src="图像url"/>
单词image的缩写,意为图像
src是<img>标签的必须属性,它用于指定图像文件的路径和文件名。
所谓属性:简单理解就是属于这个图像标签的特性。
图像标签的其他属性:
属性 | 属性值 | 说明 |
src | 图片路径 | 必须属性 |
alt | 文本 | 替换文本,图像不能显示的文字 |
title | 文本 | 提示文本,鼠标放到图像上,显示文字 |
width | 像素 | 设置图像的宽度 |
height | 像素 | 设置图像的高度 |
border | 像素 | 设置图像的边框粗细 |
*请认真填写需求信息,我们会在24小时内与您取得联系。