谷歌的 AI 驱动的合规平台 Checks by Google 现已正式发布。它检查应用程序的实际行为是否与其预期行为一致。

译自Checks by Google: AI-Powered for Apps and Code，作者 Loraine Lawson。

Google宣布推出其人工智能合规平台Checks by Google，正式向公众开放。该产品包含三个新产品，它们能检查应用、代码，以及人工智能模型的合规性问题，其中包括个人身份信息、政府监管要求，以及开发人员模型是否会提供有争议或不恰当的回复以“越界”。

Checks by Google是从Google孵化器诞生的，Checks by Google的联合创始人兼总经理Fergus Hurley说，它最初被用于内部测试Google自己的大型语言模型。

“我们向这些公司提供见解和工具，因为他们中的大多数人都没有所需见解和工具。我们的部分客户包括五大社交媒体应用、五大游戏、五大财务应用，这些公司资源非常丰富，但他们在完成自己的工作时缺乏所需的见解水平。我们弥合了开发团队和合规团队之间的差距。

Checks by Google 与 Vertex（Google Cloud 提供的用于生成式 AI 的产品）集成，但也可以配合使用其他主流模型提供商。Vertex 提供 150 多个生成式 AI 模型，包括 的 Claude 和 Mistral。

App 合规

Google Checks 提供三项服务：App （现已推出）、Code 和 AI Safety（目前处于封闭测试阶段，有候补名单）。

App 会检查应用、网站或服务是否遵守有关收集用户数据的规则。例如，它可以检查是否遵守欧洲的 GDPR、加州的 CCPA 以及巴西的 LGPD。

“我们会根据世界各地的不同法规了解应用需要做什么，”Hurley 说，“我们涵盖这些规则，如果你在这些地区拥有用户，我们便会开启这些检查。”

App 还可以针对公开使用的应用运行分析，以根据任何组织性隐私政策进行检查。他说该分析依赖经微调以了解隐私政策的 LLM，将隐私政策与该应用或产品实际正在执行的活动进行比较，并执行动态和静态分析。例如，Checks 在真实的物理设备上运行应用并监控来自这些应用的网络流量以及用户体验。

“我们已让一台智能 AI 爬虫去检查该应用实际在做什么。它能够玩游戏，如果向它提供了登录凭证，它还可以登录到该应用，但它只是一款智能 AI 爬虫。”—— Google 旗下 Checks 的联合创始人兼总经理 Fergus Hurley

“我们已经构建了自己的经过微调的模型以用来理解隐私政策，并且该模型现已在 Google 的许多团队中使用，”他说。“我们能够从合规角度发现产品可能存在的问题。我们有一个智能 AI 爬虫正在查看应用程序的实际操作。它能够玩游戏，如果向我们提供了登录凭据，它还能够登录到应用程序，但它是一个智能 AI 爬虫。”

Hurley 指出，联合创始人 Nia Cross 是一位律师，尽管 Hurley 告诫说 AI 并未提供法律建议。

“她负责 Google Play 政策，开发人员会非常密切地遵守这些政策，以获得数十亿用户的访问权限，”他说。“所以我们确实有律师监督这些内容，但我们并未提供法律指导。这一点很重要。”他补充道，

相反，AI 只是提供见解和工具，从而弥合格局开发团队与合规团队之间的鸿沟。

Code

代码合规处于封闭测试阶段，使开发人员在应用程序发布前应对监管问题。Hurley 说，它可以集成到一个 IDE 中，以便开发人员在 IDE 中直接收到有关集成到其构建系统中的问题的警报。

代码合规性提供有关关键问题的的信息，其中可能包括安全问题，但也可能检测到例如过时的 SDK。

“我们还帮助人们在 Google Play 上创建、管理和维护他们的安全标签，”他说。“那是圣杯，能够成为人们需要去的地方，以获得所有合规性见解。”

AI 安全

第三个产品正在封闭测试中，是 AI 安全。

Hurley 说，开发人员在 AI 和AI 驱动的应用程序中需要解决三个主要问题。首先，他们需要能够设置自己的策略，他称之为“对齐阶段”。在此阶段，他们确定哪些策略与他们及其网站或应用程序相关。

其次，他们需要进行评估，以确保这些策略符合他们最初的模型发布，反之亦然。第三，在实际发布 GenAI 产品后，开发人员需要确保它在野外正常运行。

“我们构建了一个产品来帮助解决这些部分中的每一个，作为这个 AI 安全产品的一部分，所以实际上，它试图在这里建立治理指挥中心，”他说。“在第一阶段，对齐，人们希望能够配置他们的策略，而现在，我们支持每个通用产品真正需要的核心策略，围绕暴力、仇恨言论和敏感数据——例如 PII（个人身份信息）。”

他说，评估阶段帮助开发人员确定策略是否符合他们最初的模型发布，反之亦然。他说，在这个阶段，该产品使用 Google 内部开发的提示进行红队攻击和副词测试。

Google 检查框架的屏幕截图

红队攻击是一种安全测试技术，它涉及模拟对系统或组织的恶意攻击，以识别漏洞并评估弹性。这个名字来自一个受控的战争游戏，其中一个红色团队试图突破目标的安全性，而一个蓝色团队则进行防御。对抗性测试是一种软件测试，它涉及故意尝试通过引入意外或恶意输入来破坏应用程序或系统。它有助于发现可能被恶意行为者利用的弱点。

“开发人员在构建完模型后会遇到一个难题，那就是想出这些对抗性提示，而我们拥有庞大的对抗性提示库，这非常有价值，这也是我们利用 Gemini 和 Gemma 以及其他 Google 团队所做的大量工作的地方，”他说，并补充说它还包含了这些团队开发的最佳实践。“我们将这些提示针对开发人员模型运行，并确保形成该模型的响应是开发人员想要的。”

这一步不容小觑。AI 模型不仅会产生可能在公众面前令人尴尬的陈述，而且还会提供错误的信息，从而给公司造成经济损失。

“人们有时会试图让模型做一些它们不应该做的事情，”他说。“最公开的案例之一是加拿大航空公司的一个案例，他们的代理人回复说这个人可以获得退款。最终发生的事情是加拿大航空公司说，‘不，根据这些条件，你不能获得退款。’”

他说，这导致了一场诉讼，最终加拿大航空公司不得不提供退款。

“现在已经设定了规则，公司对其 GenAI 代理所说和所做的事情负责，他们确实有这种责任，”他说。“确保代理人遵守公司的政策至关重要，但这是防止模型根据公司的政策进行微调以仅谈论公司实际提供的服务的公开示例之一。”

“开发人员在构建完模型后会遇到一个难题，那就是想出这些对抗性提示，而我们拥有庞大的对抗性提示库，这非常有价值，这也是我们利用 Gemini 和 Gemma 以及其他 Google 团队所做的大量工作的地方。”

— Fergus Hurley

第三，一旦 GenAI 产品发布，开发人员需要能够监控它在实际环境中的行为是否正确。例如，曾经有一家公司发布了一个通用 AI 代理来满足特定用例，但人们发现他们可以“破解”它并免费访问实际上使用起来非常昂贵的模型。

“最重要的是确保事情不会偏离轨道，并制定相应的保障措施，”他说。“我们有一个护栏产品，它会监控输入提示和输出提示，并检测问题，例如不应该到达模型的输入提示，比如有人试图破解模型，然后在输出方面，模型不应该暴露任何 PII，并且应该有许多保障措施来防止这种情况发生。”

他指出，如果开发人员不想自己进行微调，他们可以使用护栏来自动创建监控和保障措施。

“他们可以进入并选择输入护栏，[例如]我想开启破解预防，”他说。“假设他们已经用不同的敏感度阈值配置了这些不同的护栏，那么他们就可以配置输出阈值，然后将其作为模型的一部分部署到生产环境中。”

护栏充当模型的过滤器，而不是直接对其进行微调。他补充说，过滤器不会显着影响性能。

可根据行业和重点定制

他补充说，谷歌提供的检查也可以根据行业进行定制。例如，如果一个应用程序处理儿童数据，那么该应用程序必须遵循非常具体的规则。

“我们与一些最大的儿童游戏公司合作，”他说。“你可以想象医疗保健和金融或其他受严格监管的主要行业都有自己非常具体的需求，而目标是随着时间的推移建立起这个检查生态系统，让人们能够开启与他们的业务最相关的检查。”

Hurley 说，谷歌产品的检查涵盖了所有类型的开发人员；他们看到前端开发人员，以及后端和全栈开发人员都在使用这些工具。

目前，开始使用是免费的，尽管一些企业比较复杂，确实需要付费服务来帮助他们进行合规性，他说。

超过1000万江苏用户都在用的宽带，构建家庭生态体系！

今天，江苏移动在南京举办了“点亮万千光网开启智慧生活”宽带用户超1000万暨智慧家庭生态体系发布大会。江苏省人民政府王志忠副秘书长出席，代表省政府充分肯定了江苏移动打造“全光网省”的建设成果，称赞江苏移动为全省信息化快速发展做出的突出贡献，及“品质宽带”工程为百姓提供的满意服务。

江苏省经济与信息化委员会、江苏省通信管理局领导，家庭产业各方代表以及多方媒体出席了本次发布大会。让小移带你一起走进大会～

江苏省人民政府王志忠副秘书长，中国移动江苏公司总经理周毅先生，江苏省经济与信息化委员会 胡学同副主任，江苏省通信管理局 王鹏副局长共同按下屏幕，点亮万千光网，开启智慧生活。

智慧光网覆盖全省 “网络强省”中流砥柱

从2009年起步宽带建设，到2011年宽带初具规模、融合语音拓展，再到2015年实现宽带全面提速，2016年更推出“极光宽带”、“全4K”及智能家庭业务，江苏移动从无到有、从点到面，积极推动宽带的普及应用与升级换代。十二五期间累计投入620亿元，建成了一张覆盖全江苏的高标准、高品质的智慧光网。截至2016年12月，江苏移动光宽带信息点覆盖3000万家庭，出省带宽达到15280G，光宽带用户超越1000万户，用户平均速率达到25M，较上年翻一番。4G网络覆盖乡镇及发达农村以上区域，最高下载速率可达330M。

随着产业的布局和发展，江苏移动从最初的模拟电话运营，发展到涵盖4G+高速移动网络、千兆极光宽带网络的全业务通信运营，推出魔百和、和目、和有约、和路由等智慧家庭应用，产品实现质的飞跃。江苏移动致力于为老百姓提供用得上、用得起、用得好的信息服务，助力全省信息化发展迈上了一条全光网络高速路，让“建设网络强省、繁荣信息经济”有了更坚实的基石。

服务渠道齐头并进“极光宽带”更上规模

江苏移动光宽带用户突破1000万规模，用短短7年时间完成了行业近二十年才达到的水平。为了让用户享受更加透明的服务，会上江苏移动沈杰副总经理正式宣布了《家庭宽带服务白皮书》的发布，白皮书详尽介绍了江苏移动全光宽带网络架构，阐述了宽带服务质量关键要素，明确了宽带服务标准，展现了宽带服务的优势和能力。白皮书帮助用户更好地了解江苏移动服务内容，促进广大用户明白消费和服务满意提升。

在宽带服务上，江苏移动已在全省范围内建成新型家庭宽带服务站1200家，为全省用户提供家门口服务的宽带“好管家”。与此同时，江苏移动郑重向全社会承诺：办理移动宽带业务后，“两天装机，一天维修，超时赔付”。行业领先的服务标准，正得到越来越多用户的认可与信赖。

江苏移动第1000万位用户也来到了现场，中国移动江苏公司张冬副总经理为获得江苏移动第1000万位光宽带用户颁发荣誉证书，同时还送上了一份江苏移动的惊喜大礼包～

积极拓展核心能力 打造智慧家庭生态体系

全光网络是信息基础设施建设的重大里程碑，全光网省的建成也意味着网络有了更大的承载量。据了解，江苏移动将打破行业与行业、硬件与硬件的边界，打造智慧家庭“产品、内容、数据、平台、服务、渠道”生态体系，以“产品为入口、内容为核心、数据为联结、平台为枢纽、服务为保障、渠道为支撑”，积极扩展六大核心能力。

目前，江苏移动已打造了涵盖家庭通信、家庭娱乐、智能应用在内的一站式智慧家庭体系，推出了智能网关、魔百和、和目、和有约、和路由、宠物项圈、智能手表、智能旅行箱等在内的智慧家庭全套产品，逐步构建了“连接+入口+平台”的智慧家庭生态体系总布局，让用户足不出户即可享受好玩、有趣、多彩的智能生活。

以魔百和为核心的家庭娱乐应用产品“魔百和”全4K互联网电视产品，广泛汇聚影视、游戏、音乐、电商、旅游等内容，全4K技术让影像更清晰、层次感更强、色彩更丰富，原生VR给用户带来沉浸式观影体验，多窗口运行则为业务创新打开另一扇窗。

以智能家庭网关为核心的智能生活应用产品“和目”，借助其高清摄录、事件侦测、双向语音等功能，老百姓可以随时随地了解家中发生的一切，实现对老人的照顾和对小孩的看护。

以家庭宽带为核心的通信社交应用产品“和有约”，实现家庭电视之间、家庭电视与VoLTE手机之间的互通，在家里实现家庭间的亲情沟通，并享受医疗及教育等垂直行业的一对一视频服务，为客户提供丰富的家庭通信服务和完整的视频生态体系。

现江苏移动向省内征集五类家庭（有老人的家庭、有小朋友的家庭、无看护孩子需求的家庭、夫妻分居两地的家庭、有宠物的家庭），免费进行家居软装改造及安装智慧家庭产品，还有大流量红包等你拿～

（识别下方二维码，参与活动）

和我们一起制造智慧家庭吧～

此外，江苏移动倾力打造的大数据平台“和洞察”，涵盖交通、旅游和金融等与用户日常家庭生活息息相关的版块，运用大数据能力实现互联互通，不但能量身定制行业信息化解决方案、推动传统与互联网深度融合，还能促使生活方式产生深刻变革，智慧生活迎面而来。

本次大会上，江苏移动还与部分地产行业达成合作意向，未来将展开紧密合作，把江苏移动的智慧家庭产品运用到商业和住宅项目中，让更多人充分享受到现代化的“智慧之家”。

4G改变生活，5G改变社会。在12月20日的全球移动合作伙伴大会上，中国移动表示，5G时代的移动通信可实现更少的时延、更高的速率、更好的业务体验，真正实现移动信息化与各行各业的深度融合。5G将实现“万物互联”，而未来家庭产品能够实现和人们生活的相互连通，将成为万物互联的一个缩影。江苏移动此次发布的智慧家庭生态体系，能够让用户在这个时代先行体验到家庭产品互联的新兴生活方式。

活动具体规则请登录江苏移动掌上营业厅活动页面或详询当地10086，具体优惠及办理情况以系统为准。

·非实名制客户、M-Free卡客户、无线通、随E行、移动总机、固话、商话、公话、快捷通和金卡快捷通及wap封顶套餐用户无法参与活动。

·文中广告活动时间以活动页面显示为准，若活动结束将无法参与，敬请谅解。

-广告-