SaaS优良架构助力软件互联网企业全球化发展

关键字:[亚马逊云科技出海日2024,Bedrock,全球化拓展,高可用架构,创新赋能,多租户部署,资源扩缩容]

本文字数:1800,阅读完需:9分钟导读

在2024年亚马逊云科技出海日上,韩思捷先生发表了题为”SaaS优良架构助力软件互联网企业全球化发展”的演讲。在这个演讲中,他讨论了如何通过优良的SaaS架构帮助软件互联网企业实现全球化发展;具体解释了如何应对合规性、系统稳定性和创新等挑战。该演讲重点介绍了亚马逊云科技如何通过全球布局、安全合规、高可用架构等方式,赋能软件企业实现全球化拓展、构建稳定系统和创新发展。这是一场由亚马逊云科技公司举办的演讲。演讲精华

以下是小编为您整理的本次演讲的精华，共1500字，阅读时间大约是8分钟。如果您想进一步了解演讲内容或者观看演讲全文，请观看演讲完整视频或者下面的演讲原文。在全球化拓展方面,韩思捷分享了一些客户如何利用亚马逊云科技的产品和服务应对合规性挑战的实践案例。他提到:“我们现在是截止到现在是143个安全合规证书。整个亚马逊这个机房的设施,包括上面的那些,不管是这个基础设施服务,还是一些这个偏应用端的这些服务,其实都有拿到相关的证书。”这些证书覆盖了从基础设施到应用层的全部服务,确保了平台本身的合规性,为企业客户的关键业务系统运行提供了合规保障。除了合规性,亚马逊云科技还为客户提供了安全事件自动化和端到端安全指导的解决方案。韩思捷举例说:“我们还提供了各种各样的方案,比如说敏感数据保护这样的一键部署的方案,让你可以很方便地找到你的一些敏感的一些数据是要引起你关注的,那帮你自动地把这些数据筛出来,那可以让你更好地进行管理。”通过这种一键式的敏感数据保护方案,客户可以自动识别和管理敏感数据,提高安全性。一旦发生安全事件,亚马逊云科技的完整产品和方案将自动采取行动,实现事件响应的自动化。在架构SaaS平台的控制平面方面,韩思捷分享了客户采用共享账号部署和多账号部署两种模式的实践案例。共享账号部署将控制平面和应用平面放置在同一账号下,通过网络层隔离;而多账号部署则将控制平面独立部署,每个租户拥有独立的应用平面账号。对于应用平面的多租户隔离,韩思捷介绍了全栈独立部署、独立模块部署和资源池化部署三种部署模式的客户案例。他解释说:“全栈独立部署,简单来说就你来一个租户,我就完全给你彻底的端到端的部署一套完整的系统给你,这个通常是用于vvip客户对吧,就我们的高级用户,或者说白金用户,最高级用户,因为给他的资源是最独立的,也是最大的。”这种全栈独立部署模式为高级付费租户提供了完整的应用系统副本,确保了最高级别的隔离,但成本也最高。而独立模块部署则为不同租户单独部署某些关键模块,韩思杰解释道:“它其实就是某一些模块会单独给它部署,比如说我一个应用系统,我可能我这个saas系统是包含了三个模块,其中有一个数据分析的模块,我是单独给他部署,然后订单下单,这个订单管理等等这些模块我可能是一个共享的,这是第二种部署,独立部署。”资源池化部署则将所有租户的应用共享同一个资源池,适用于免费测试用户,韩思捷举例说:“第三种就是完全池化的,就是所谓的破解共享资源部署,就是我一堆资源,然后应用都在里面,你12345678几个租户全都来用我的资源。”在自动扩缩容方面,韩思捷分享了客户如何利用亚马逊云科技的自动伸缩组、无服务器架构和容器编排等功能实现弹性扩容的实践经验。对于基于自动伸缩组的服务器扩容,他解释道:“通常我们都会通过所谓的这个我们叫AutoScaling,就自动伸缩组的方式,根据你的CPU或者说流量,或者说这个等等其他指标来判断我当前整个集群的资源是否够用,不够用的话我就横向扩,这是一种这种方式的话,比较适合那种这个共享资源池化的方式。”而对于无服务器架构,韩思捷分享了客户如何利用AmazonLambda这样的无服务器函数服务实现按需扩容:“无服务器架构相当于是你看不见服务器了,你只是提交你的代码就好了.那这种情况下,比如说我们基于Lambda这样的一种无服务器函数来做的话,那就简单了,因为整个的扩容其实是由亚马逊平台来帮你做,你只要有一个请求进来,我就给你起一个计算的资源去解决他的请求需求,这个就对你来说很简单。”最后,韩思捷重点介绍了客户如何利用Kubernetes和Karpenter等容器编排工具实现灵活的扩缩容。他强调:“我们推荐用在我们亚马逊平台上,我们的EKS上,我们叫EKS就这个托管的这个Kubernetes的这个集群,我们推荐用Karpenter这样的叫Karpenter这样的开源方案来进行管理你的扩缩容,因为它不需要基于你的CPU,正常的扩缩容都是判断你当前服务器上CPU利用率是不是高到一定程度了,我再扩容这个时候有点慢,因为你发现CPU高到低程度了,我再去启动资源可能赶不上新的流量进来,那就会导致流量这个被拒绝。而Karpenter就不一样,Karpenter它不基于你当前的这个CPU资源,它基于的是你当前运行的任务,就你当前排队的任务的多少来,它就会来决定我剩下的资源,如果不够这些排队的任务了,我就会立刻去申请新的资源,所以它的灵活度和这个颗粒度要细得多,而且这是一个开源项目,用起来非常方便。”通过这些真实的客户使用案例,我们可以看到亚马逊云科技的产品和服务如何帮助企业客户在全球化拓展、构建高可用SaaS平台等方面实现创新,为他们的业务发展保驾护航。在赋能创新方面,韩思捷还分享了客户如何将亚马逊云科技的Bedrock生成式AI服务与自身业务数据相结合,实现知识库和问答机器人等创新应用的真实案例。他详细阐述了一个知识库问答系统的架构:“比如说你有你的文档,存到了我们的对象存储上,然后你内部的这种各种业务文档,知识文档,然后把它进行向量化以后进入到我们的知识库里,那知识库比如说我们可以用opensearchserverless这样的一个架构,而且它是有个serverless无服务器架构,进入到我们的这个向量库,进到我们的这个转化型向量以后,进到数据库完了以后,它和我们的Bedrock是无缝集成。”通过这种架构,企业可以将内部业务文档存储在亚马逊云科技的对象存储中,利用Bedrock的向量化功能构建知识库,再与大模型无缝集成,为最终用户提供基于上下文的定制化答复。最后,韩思捷分享了一个完整的SaaS化生成式AI应用架构,展示了客户如何根据租户ID获取对应的知识库向量、微调模型,并与Bedrock服务集成,为不同租户提供定制的AI响应。通过这些真实的客户使用案例,我们可以看到亚马逊云科技的产品和服务如何助力软件企业在全球化拓展、构建高可用SaaS平台,以及引入创新的生成式AI技术等方面实现创新,为他们的业务发展保驾护航。下面是一些演讲现场的精彩瞬间：韩思捷自我介绍并解释了亚马逊云科技解决方案教务师团队的职责,即帮助独立软件供应商将系统部署到亚马逊云科技平台上,并支持软件开发商进行SaaS创新。

亚马逊云服务在全球部署过程中应对合规性、安全事件自动化和端到端安全指导等挑战的全面解决方案。

亚马逊云科技平台的设计理念:控制平面和应用平面解耦,应用平面在不同区域部署,控制平面集中管理元数据。

对于采用无服务器架构的先进部署方式,AmazonLambda可以根据请求自动分配计算资源,提高资源利用率,但需要较强的开发能力。

亚马逊云科技推荐使用开源方案Karpenter来管理EKS集群的扩缩容,因为它基于当前运行任务的多少来决定资源分配,反应更加灵活迅速。

亚马逊云科技云端大模型服务可以根据租户上下文和知识库,利用语义检索和定制模型生成个性化响应。

在演讲中,演讲者解释了如何通过不改变接口和代码,仅更改模型ID和向量库来为不同租户提供定制的服务。

总结

亚马逊云科技为软件互联网企业提供了全球化发展的优良SaaS架构解决方案。这种架构旨在帮助企业构建高可用、稳定且成本优化的SaaS平台,满足全球合规性、安全性和创新性的需求。首先,亚马逊云科技在全球33个区域部署了300多种安全产品和服务,并获得了143项安全合规认证,确保了合规性。其次,通过高可用设计、容灾和持续改进,实现了系统的稳定性和可靠性。最后,亚马逊云科技推出了Bedrock等深度学习AI服务,赋能SaaS创新,如知识库和问答机器人等应用。这种SaaS架构采用控制平面和应用平面分离的设计理念,可实现多租户隔离、自动扩缩容和限流等功能。通过与亚马逊云科技的解决方案架构师团队合作,软件企业可以充分利用这一优良架构,实现全球化发展。