者 | 凌敏、核子可乐
亚马逊“最具野心”的大语言模型,将会是什么样?
据外媒 Insider 近日报道,亚马逊 CEO Andy Jassy 目前正直接领导一支新团队,负责开发该公司最具野心的 AI 项目。
Jassy 告知亚马逊的 S-team(由 20 多名高管组成的亚马逊最高决策团队),他将提拔 Alexa 首席科学家兼高级副总裁 Rohit Prasad 作为自己的直接下属,向他直接汇报。目前 Jassy 共有 16 名直接下属,包括 Devices and Services 高级副总裁 Dave Limp、零售业务负责人 Doug Herrington、云计算 CEO Adam Selipsky 以及 CFO Brian Olsavsky 等。
根据 Insider 获得的一封内部邮件,Prasad 将在新位置上组织建立新的技术小组,致力于为亚马逊打造“最具野心”的大语言模型。
大语言模型是 AI 工具中的底层技术,能够从巨大的训练数据集中学会生成与人类相似的响应结果。OpenAI、谷歌和 Meta 等企业都已建立起规模庞大、功能强劲的大语言模型,并在全球范围起掀起热潮。亚马逊之前也有相关布局,成果包括 Alexa Techer Model 和 Titan。
在 6 月末发出的这封邮件中,Jassy 称 Prasad 将领导一支“中央小组”,负责构建亚马逊“最具泛用性”的大语言模型。
“简单说一下,Prasad 将调任新岗位,负责领导一支中央小组并构建我们最具泛用性的大语言模型。虽然我们已经在公司内部构建起多个大语言模型,还有另外几个项目也在推进,但这次我们将集中优势资源打造最具野心的大语言模型,并由 Prasad 领导这支队伍。在新岗位上,Prasad 将向我直接报告。”
资料显示,Prasad 统领 Alexa 团队已经超过十年,同时他也是 Dave Limp 领导的亚马逊 Devices and Services 团队中的一员,并将继续承担这方面工作。
根据 Insider 看到的另一封邮件,就在 Jassy 于 6 月宣布上述决定后不久,Limp 在团队内部发出通告,称 Prasad 仍将是“Alexa 的关键合作伙伴与支持者,并将在我们的未来业务中发挥重要作用。”这封邮件称,亚马逊 Devices 副总裁 Daniel Rausch 将接掌 Alexa 产品与业务组织,包括各娱乐、合作伙伴参与及跨国团队。
Limp 在邮件中强调,“我们在 Alexa 的使命和愿景上没有动摇,对于我们向客户交付新发明、新成果的能力,我也比以往任何时候都更加乐观。”有消息显示,亚马逊最近还启动另一个新项目,希望利用类似 ChatGPT 的技术让 Alexa 变得更智能、更富个性化。
目前关于 Prasad 领导的新团队并未有更多消息流出,但可以看到,亚马逊在这场大模型竞赛中已经准备好了,至于未来能带来什么样的惊喜,还需要交给时间。
根据 Insider 之前的报道,亚马逊正急于应对生成式 AI 的迅速崛起。尽管亚马逊过去数十年间一直致力于 AI 技术研究,但微软、OpenAI 和谷歌等竞争对手明显取得了一定优势,Meta 最新的 Llama 2 模型也在整个科技行业内掀起了波澜。为此,亚马逊决定在新计划中立足亚马逊云科技事业部组建新团队,专注于帮助客户使用生成式 AI 产品。
在这场大模型竞赛中,亚马逊云科技已经交出过不少答卷。今年 4 月,亚马逊推出了 Amazon Bedrock 服务、Amazon Titan 大语言模型,以及 AI 编码助手 Amazon CodeWhisperer。
其中,Amazon Bedrock 既提供自研的大语言基础模型—— Amazon Titan Text 、Amazon Titan Embeddings,也与 AI21 Labs、Anthropic、Stability AI 等基础模型提供商广泛合作,助力企业轻松灵活构建生成式 AI 应用,降低所有开发者的使用门槛。
Andy Jassy 在此前接受 CNBC 采访时表示,“大多数企业都想要用上大语言模型,但顶尖 AI 模型需要几十亿美元和长达数年的训练成本和周期,用户肯定不想亲自动手。因此,他们希望能在规模够大、性能更好的基础模型之上工作,再根据自身需求对其做出定制。而这,就是 Bedrock 的基本定位。”
Amazon Titan 基础模型可以识别和删除客户提交给定制模型的数据中的有害内容,拒绝用户输入不当内容,过滤模型中不当内容的输出结果。Titan 系列模型分为两种,一种是用于内容生成的文本模型,另一种是可创建矢量嵌入的嵌入模型,用于创建高效搜索功能等。
AI 模型经常会出现“一本正经地胡说八道”现象,尽管输出内容看似有理有据、令人信服,但实际上并没有相关训练数据可以支撑。针对 AI “幻觉”问题,亚马逊云科技副总裁 Bratin Saha 此前在接受外媒采访时表示,亚马逊非常关心准确性,并努力确保 Titan 模型能够生成高质量的响应结果。
据外媒报道,十几年前起就一直在亚马逊工作的 Sivasubramanian 表示,亚马逊在 AI 领域已经持续投入二十多年,亚马逊云科技目前拥有超过 10 万家 AI 相关客户。他同时补充称,亚马逊也一直在使用 Titan 的微调版本交付主页上的搜索结果。
Amazon CodeWhisperer 则是一款面向个人开发者免费使用的辅助代码编写工具,是一种人工智能代码生成扩展,目标是提高软件开发者的工作效率。CodeWhisperer 可以更快地完成更多工作,避免软件开发人员花费大量时间编写非常简单且无差别的代码,CodeWhisperer 作为 AI 编码伴侣,它能根据开发人员的自然语言评论和集成开发环境 ( IDE ) 中的先前代码实时生成代码建议,从根本上提高开发人员的工作效率。
在发布上述 AI 服务/产品的同一天,亚马逊还发布了 2022 年度股东信,Jassy 在信中提到,公司正大力投资大型语言模型和生成式 AI。
Jassy 表示,LLM 和生成式 AI 是能让“亚马逊未来几十年可以在每个业务领域都进行创新的核心”,将显著加速亚马逊已经深耕了 25 年的机器学习的应用,他称生成式 AI 具有变革性,对客户、股东和亚马逊来说都意义重大:
“亚马逊研发自己的 LLM 已有一段时间了,相信它将改变并改善几乎每一种客户体验,并将继续在所有我们的消费者、卖家、品牌和创作者体验中大量投资这些模型。
与多年来亚马逊云科技的发展路径一样,我们正在推动各种规模的公司都可以利用生成式人工智能。亚马逊云科技提供了最具性价比的机器学习芯片 Trainium 和 Inferentia,使得小型和大型公司都可以负担得起在生产中训练和运行他们的 LLMs。
亚马逊的商业客户可以从各种 LLMs 中进行选择,并使用客户喜好的所有 AWS 安全、隐私和其他功能构建应用程序。此外,我们正在提供像 AWS CodeWhisperer 这样的应用程序,它通过实时生成代码建议来革命性地提高开发者的生产力。”
Jassy 最后提到,他本可以用生成式人工智能写一整封信,但他要把这封信留到未来。大型语言模型和生成式人工智能对客户、股东和亚马逊来说都将是一件大事。
参考链接:
https://www.businessinsider.com/amazon-ceo-andy-jassy-oversees-group-most-ambitious-ai-models-2023-7
https://www.infoq.cn/article/j3qbSPiG9Hmapal2exir
https://www.cnbc.com/2023/04/13/aws-launches-bedrock-generative-ai-service-titan-llms.html
2023年9月3-5日,「QCon全球软件开发大会·北京站」 将在北京?富力万丽酒店举办。此次大会以「启航·AIGC软件工程变革」为主题,策划了大前端融合提效、大模型应用落地、面向 AI 的存储、AIGC 浪潮下的研发效能提升、LLMOps、异构算力、微服务架构治理、业务安全技术、构建未来软件的编程语言、FinOps 等近30个精彩专题。咨询购票可联系票务经理 18514549229(微信同手机号)。
常有卖家朋友会问到的一个问题,就是一条链接开了多个广告活动,有自动广告也有手动广告,同一个词可能又开了多个广告组,那么在前台搜索一个关键词的时候,如何判断前台展示的广告位是属于哪个广告活动,哪个广告组呢?
今天就来给大家分享一个技巧,教你如何判断前台展示的广告属于哪个广告组,兄弟们,点赞收藏[机智][机智]
第一步 在亚马逊前台找到我们的链接广告位,以下图广告位为例。
第二步 将鼠标放在广告位,点击右键选择“检查”,进入调试页面之后我们可以看到这个广告位的链接。
然后将链接复制出来:
https://www.amazon.com/gp/slredirect/picassoRedirect.html/ref=pa_sp_atf_aps_sr_pg1_1?ie=UTF8&adId=A0823115SNOAWJQ6BH4W&url=%2FTilswall-Mini-Glue-Gun
这个链接中的A0823115SNOAWJQ6BH4W就是该广告位的广告id。
第三步 进入亚马逊后台广告页面,找到广告组,一定要进入到最后一级也就是显示投放ASIN的页面,按F12键进入调试界面,再按Ctrl+F搜索“data-udt-row-id”,后面显示以A0开头的编码就是广告组id。
找到与前台广告位对应的id就知道它是归属于哪个广告组啦!
知道广告位所对应的广告组能帮助我们更深入了解亚马逊广告的逻辑并且优化广告,可以针对性地进行调价,能够更好地进行卡位。
本文字数: 1700, 阅读完需: 8 分钟
在亚马逊云科技活动上,Ron Ludwig和Miquelle就”Amazon Q Builder 保护您的代码安全”进行了演讲。他们阐释了Amazon Q Developer这一集成到亚马逊云科技控制台和IDE中的生成式AI助手,如何在整个软件开发生命周期中帮助保护代码安全。具体而言,他们解释说,Q Developer能够检测SQL注入、跨站点脚本和硬编码密码等安全漏洞,并在提交代码之前提供修复控制措施。该演讲重点介绍了Amazon Q Developer如何实现安全问题的早期检测和修复、提高开发人员生产力,以及与亚马逊云科技服务更好地集成。
以下是小编为您整理的本次演讲的精华,共1400字,阅读时间大约是7分钟。
在一场令人振奋的会议演讲中,亚马逊 Q 的全球合作伙伴负责人 Ron Ludwig 和下一代开发者体验的首席解决方案架构师 Miquelle 共同揭开了 Amazon Q Developer 这一革命性的生成式人工智能助手的神奇功能。这款与亚马逊云科技控制台和 IDE 无缝集成的助手,将彻底改变开发人员进行代码创建、现代化和转换的方式。
Amazon Q Developer 是一套强大的工具集,涵盖了软件开发生命周期的方方面面,从功能规划到代码维护和现代化。其核心是强大的 Code Whisper 功能(前身为 CodeWhisperer),能够使用 14 种不同的编程语言撰写代码,同时遵循行业最佳实践。这项尖端功能得到了安全扫描、代码转换和提供一般最佳实践等全面功能的有力补充。
Amazon Q Developer 的一大亮点是能够利用用户的亚马逊云科技账户和使用模式信息。通过利用这些数据,人工智能助手可以优化代码,并促进与亚马逊云科技服务的更有效集成,从而带来更佳的客户体验和提高组织的开发实力。例如,Miquelle 提到,开发人员不仅可以询问 Q Developer 有关他们的代码以及如何优化和理解它,还可以询问如何与亚马逊云科技集成以及如何更有效地使用它,从而使组织在开发方面表现更为出色,为客户带来更佳的体验。
Amazon Q Developer 的通用性远不止于代码撰写。它可以帮助规划功能、提供带有差异文件的代码转换、优化和调试代码、测试和保护代码,以及维护和现代化现有代码库。值得一提的是,代码现代化功能利用了先进的人工智能技术,可以自动将遗留代码库从一种语言版本升级到另一种版本,这一壮举有望简化和加速现代化进程。
米凯尔(Miquelle)凭借其作为前亚马逊云科技软件开发工程师(SDE)和工程组织领导者的丰富经验,强调了持续安全扫描和扫描整个代码库以发现漏洞的能力的关键重要性。亚马逊Q Developer的安全扫描功能,作为其100种标准SaaS产品之一,体现了对安全编码实践的承诺。
安全扫描功能包括针对各种潜在漏洞的静态分析,包括SQL注入、跨站点脚本、硬编码密码、基础设施代码问题、带有凭据的数据库连接字符串以及代码质量问题。通过将安全扫描左移到开发人员,亚马逊Q Developer使他们能够在提交代码之前识别和修复问题,从而提高敏捷性并缩短解决安全问题的周期时间。正如米凯尔所言:“通过左移和玻璃,我们可以提前做到这一点,希望这将使您的团队更加敏捷。”
值得注意的是,亚马逊Q Developer不仅能够检测问题,还提供了修复控制,使开发人员能够在IDE中立即修复问题。这种无缝集成扩展到多种流行的IDE,包括VS Code、JetBrains(IntelliJ)、Neovim(即将推出)和Eclipse(即将推出),确保跨平台的一致和高效的开发体验。
在幕后,亚马逊Q Developer利用了前CodeGuru产品开创的检测器库方法。这种方法使不同检测控制的组件化引入成为可能,从而实现了模块化和可扩展的安全扫描框架。采用生成式AI方法,Q Developer通过首先将文件列表发送到云端、评估相关文件,然后使用检测器库以批处理方式分析这些文件,从而高效地扫描代码库。
米凯尔(Miquelle)通过展示对其代码库进行实时扫描,展现了Amazon Q Developer安全扫描功能的卓越能力。这位AI助手在扫描了200个文件后,检测到了3个主要问题,提供了完整的扫描文件列表,并给出了补救控制措施,允许米凯尔直接在IDE中应用修复。例如,在某种情况下,它发现了一个关键功能缺少身份验证,而补救控制则允许米凯尔添加身份验证或降低该功能的重要性。这种无缝集成体现了Amazon Q Developer所实现的流畅工作流程,使开发人员能够以最小的摩擦维护安全且高质量的代码库。
Amazon Q Developer意识到了开发团队的多样化需求,因此无缝地集成到软件开发生命周期中,强调左移(shift-left)方法。通过在编写代码阶段检测安全性和质量问题,并提供即时补救,Q Developer使开发人员能够主动解决问题,促进更加敏捷和高效的开发过程。
此外,Amazon Q Developer支持构建任务,并计划将对生产代码中性能问题的检测纳入其功能,进一步扩展其覆盖整个软件开发生命周期的能力。持续改进是这位AI助手的核心原则,通过在内部和公开可用的代码库上进行训练来实现,确保它始终与最新的最佳实践和行业趋势保持同步。正如米凯尔所说:“我们将持续在我们所知的代码库上训练Q Developer。我们不会使用客户代码来训练它。我们使用我们的内部代码库以及公开可用的代码库,例如GitHub。
亚马逊公司意识到各个组织的独特需求,因此推出了Amazon Q Developer,允许客户通过集成自有库和安全扫描要求来创建定制化内容。这种灵活性使开发团队能够根据特定需求定制AI助手,确保与现有工作流程和工具链无缝集成。Miquelle强调说:“但是,如果开发团队在安全分析中反复遇到类似的问题,它们总是可以创建定制化内容。开发团队可以为Q Developer创建定制化内容,集成它们使用的库、专有库,将其连接起来,并将其作为安全扫描和建议的一部分,以及Q Developer擅长的任何其他方面。”
尽管Amazon Q Developer拥有令人印象深刻的一系列功能,但必须考虑其使用相关的限制。具体而言,自动扫描和整个项目扫描的最大输入工件大小和最大源代码大小限制为500MB。这些限制旨在确保最佳性能和资源利用率。
在语言支持方面,Amazon Q Developer为多种编程语言提供安全扫描功能,包括Java、JavaScript、Python、TypeScript、Go、Ruby和Rust(部分支持)。此外,它还支持Terraform和CDK这两种流行的基础设施代码工具,并为某些语言提供自动代码修复功能。正如Miquelle所说:“我们与HashiCorp有着非常好的合作伙伴关系。因此,每当双方发生变化时,我们都会训练我们的模型并进行微调,以产生最佳结果。对于CDK,我们也提供了一些语言的自动代码修复。”
为了促进易于采用和试验,Amazon Q Developer提供了每月50次免费安全扫描的免费层。对于需求更高的组织,每月19美元的专业层提供500次安全扫描,并提供额外功能,如更好的身份中心集成和定制支持。
开发人员可以通过安装适用于VS Code和IntelliJ等流行环境的IDE插件,将Amazon Q Developer无缝集成到现有工作流程中。免费层的注册过程非常简单,使开发人员能够快速上手并体验这种变革性的生成式AI助手的强大功能。
总而言之,Amazon CodeWhisperer代表了开发人员进行代码创建、现代化和转换方式的一种范式转变。通过利用生成式人工智能的力量,并与亚马逊云科技控制台和IDE无缝集成,这款创新助手使开发人员能够更快速地编写代码、优化现有代码库,并在整个软件开发生命周期中保持安全且高质量的代码库。凭借其全面的功能集、定制能力和对持续改进的承诺,Amazon CodeWhisperer有望成为开发团队追求新水平生产力、敏捷性和创新力的不可或缺的工具。
下面是一些演讲现场的精彩瞬间:
亚马逊 Q 开发者是一款集成在 亚马逊云科技 控制台和 IDE 中的生成式 AI 助手,旨在帮助开发者更快地编写代码、现代化代码和转换代码。
亚马逊 Q 开发者是一套强大的工具集,包括代码编写、安全扫描、代码转换等功能,可以帮助开发者编写更优质的代码,提高开发效率和安全性。
在这个案例中,它对一个不太熟悉的代码库进行了安全扫描,发现了 3 个主要问题,并立即应用了相应的修复措施。
它将持续在已了解的代码库上训练,包括内部代码库和公开可用的代码库如 GitHub,以改进代码。
如果开发者在安全分析中反复遇到类似问题,也可以针对所使用的库(包括专有库)为 Q 开发者创建自定义,将其纳入安全扫描和建议流程。
亚马逊 Q Developer 是一套强大的生成式人工智能工具套件,旨在协助开发人员贯穿整个软件开发生命周期。它提供了诸如代码编写、安全扫描、代码转换以及与亚马逊云科技服务集成等功能。值得一提的是,其安全扫描功能可实现持续扫描,检测 SQL 注入、跨站点脚本以及硬编码密码等漏洞。通过利用生成式人工智能和模块化检测器库,Q Developer 能够高效分析代码,并直接在 VS Code 和 IntelliJ 等 IDE 中提供补救控制措施。
Q Developer 安全扫描的关键优势在于将安全左移至开发人员,从而实现早期检测和修复问题,避免将代码提交。这简化了开发流程,提高了敏捷性。此外,Q Developer 支持定制化,允许组织集成专有库,并根据特定需求量身定制安全扫描。
虽然 Q Developer 提供了具有有限安全扫描的免费层,但专业层则提供了扩展功能,包括增加扫描限制、更好的身份集成以及对定制化的支持。凭借低门槛和托管的生成式人工智能辅助,Q Developer 旨在赋予开发人员编写更加安全高效的代码的能力,从而带来更好的客户体验。
*请认真填写需求信息,我们会在24小时内与您取得联系。