◎在生成式AI爆发之际,亚马逊云科技基于生成式AI,选择提供三层服务架构。简单来说就是云基础设施服务、模型层服务、应用层服务。
每经记者 王紫薇 每经编辑 刘雪梅
北京时间4月23日晚,亚马逊云科技(AWS)宣布,其生成式AI平台Amazon Bedrock进行了重大功能更新。官方博客一口气发布了8篇Amazon Bedrock相关文章,来介绍此次更新功能的全部内容。
Amazon Bedrock于去年4月份首次推出,也是当时亚马逊云科技首次针对生成式AI的官方发布。它允许用户通过API访问亚马逊云科技和众多知名第三方基础模型提供商的预训练基础模型。
《每日经济新闻》记者了解到,诞生一年之际的这次更新,其功能升级几乎全是面向AI方向,涵盖了模型选择、安全性、易用性等多个方面。
此次更新之后,最引人瞩目的是对定制化模型的支持功能。
Amazon Bedrock首次支持专有模型导入,用户能够将本地微调后的开源模型(Llama,Mistral及Flan-T5框架)上架Bedrock,以托管API方式来调用,无需运维。只需通过点击操作,客户即可以在Amazon Bedrock中访问其定制模型,无论这些模型是它通过Amazon SageMaker(在亚马逊云科技re:Invent 2017全球大会上推出的机器学习平台,面向AI领域和机器学习领域)开发的还是用其他的工具开发的。只需模型通过自动验证流程后,即可使用Amazon Bedrock的一系列功能来加速其生成式AI应用开发。
此外,Agents for Amazon Bedrock现在提供简化的创建和配置,允许开发者快速创建代理并管理跨多个系统和数据源的任务,以此提高开发效率。
此次更新还推出了更多的新模型。
在亚马逊云科技re:Invent2023上推出的Amazon Titan Image Generator图像生成模型目前已经在Amazon Bedrock上正式可用。Amazon Titan Image Generator支持一系列新的图像生成和编辑功能,同时引入了水印检测API,帮助用户识别AI生成的图像,以减少误导性内容的传播。
本周Meta刚刚发布的Meta Llama 3两款模型(8B和70B),也已登陆Amazon SageMaker和Amazon Bedrock。新版的Amazon Titan Text Embeddings V2模型和来自Cohere(加拿大的AI独角兽)的Command R和Command R+模型也即将登陆Amazon Bedrock。
Amazon Bedrock Guardrails功能目前也正式可用,可以为AI应用提供了一套安全保护措施,能够自定义内容策略,过滤敏感信息,保护用户隐私,确保AI应用符合伦理和合规性要求。
在知识库方面,Amazon Bedrock知识库功能支持通过跨账号的数据源构建知识库和Ephemeral RAG(和文档聊天)跨账号的数据源构建知识库可以允许用户无缝地聚合和使用来自各种来源的信息,从而提高了知识库的全面性和准确性;Ephemeral RAG让用户能够直接上传文件而无需使用向量数据库的方式来快速构建RAG,便于快速测试验证。
Amazon Bedrock的这些功能更新,不仅提升了AI应用的开发效率和用户体验,同时也加强了对安全性和合规性的控制。据称,Amazon Bedrock Guardrails功能正式可用,可以控制FM输出内容合规性,实现负责任AI。它在基础模型的原生能力之上提供了安全保护,能够帮助客户阻止高达85%的有害内容。这些创新为AI技术的商业应用开辟了新的可能性,预计将在金融、医疗、娱乐等多个行业中产生深远影响。
自2023年生成式AI爆发以来,云服务商最大的感受就是,企业上云这件事,不需要费力驱动。
《每日经济新闻》记者注意到,亚马逊云科技AI和数据副总裁Swami Sivasubramanian此次也在署名博客里表示,企业应用Amazon Bedrock正呈现爆炸式增长。
二十多年来,亚马逊一直关注人工智能和机器学习。上述的亚马逊云科技机器学习平台Amazon SageMaker于2017年推出,它的功能包括从数据标注到数据训练、再到部署、上线以后的持续监控以及基于原始数据的再迭代等端到端的能力。在生成式AI大模型出现之前,就已经非常成熟地帮用户解决问题。
在生成式AI爆发之际,亚马逊云科技基于生成式AI,选择提供三层服务架构。简单来说就是云基础设施服务、模型层服务、应用层服务。
AWS 亚马逊云计算服务平台 图片来源:每日经济新闻 资料图
云基础设施服务。这一层包括自研芯片和AMD、Intel和Nvidia的芯片,以及Amazon SageMaker等相关服务,是亚马逊云科技的王牌产品,也是亚马逊云科技之前一直强化的重点。目前,亚马逊云科技基础设施遍及33个地理区域的105个可用区,并计划在马来西亚、墨西哥、新西兰、沙特阿拉伯和泰国等新建6个区域、18个可用区。
模型层就是以Amazon Bedrock为代表的云托管服务,也是此次功能更新迭代的重点。
应用层,即生成式AI驱动的应用程序。主要包括生成式AI助手Amazon Q、实时AI编程助手Amazon CodeWhisperer等。
Amazon Q于去年11月在re:Invent大会上发布,这是一种新型生成式AI支持的助手,可以根据客户业务进行定制,专门用于满足办公场景需要。
Swami Sivasubramanian同时表示:随着今天新功能的推出,AWS将继续快速创新,进一步推动生成式AI的大规模普及。
封面图片来源:每日经济新闻 资料图
1本文为《每日经济新闻》原创作品。
2 未经《每日经济新闻》授权,不得以任何方式加以使用,包括但不限于转载、摘编、复制或建立镜像等,违者必究。