领导者们强调,在实施微服务策略时,应将其与现实的工作负载和隔离特性保持一致,而非随意地拆分。
通过根据消费、扩展和隔离需求来拆解微服务,可以优化特定的工作负载。
演讲者解释了为何亚马逊云科技的EC2可能难以应对高峰多租户工作负载的扩展,这也是为何Fargate成为更好的选择的原因。
面对的关键挑战在于测试多租户隔离以确保其安全性与恢复能力。
托德·戈尔丁,作为亚马逊云科技的解决方案架构师,在re:Invent上发表了一场关于如何构建可扩展且高效的多租户架构的演讲。他首先指出,在设计可扩展性和弹性时,SaaS架构师需要兼顾业务需求和技术需求。企业希望在提高效率的同时最大化利润,同时也要支持不同客户和部署模型的灵活性。架构师需要在这些相互竞争的需求之间进行创造性平衡。
戈尔丁接着概括了制定扩展策略的关键要素:分析不同的租户工作负载和人物角色,选择合适的计算技术如EC2、Lambda和EKS,并支持多种部署模式如孤立和共享资源。他强调了自动化可扩展的上线和部署的重要性。
谈及弹性问题时,戈尔丁关注了几个关键领域:租户节流、存储大小、故障隔离、运营可视性以及将策略从代码中移除。他解释了如何通过分层API节流防止较低层消耗过多资源。他还倡导将多租户逻辑从业务代码中解耦,以提高弹性。
最后,戈尔丁强调需要通过有组织的租户负载模拟以及通过注入故障来提前测试扩展和弹性。他说,观察测试负载下的运营指标是验证系统是否按预期运行的必要条件。
总的来说,戈尔丁为在亚马逊云技术上构建高性能、有弹性的大语言模型提供了一个高层次框架,这个框架在业务需求和技术实施之间实现了平衡。他的主要建议包括支持不同的工作负载、自动化可扩展的操作、实现节流和隔离,以及通过测试来提前验证。
https://blog.csdn.net/just2gooo/article/details/134789746
2023亚马逊云科技re:Invent全球大会 – 官方网站
点击此处,一键获取亚马逊云科技全球最新产品/服务资讯!
点击此处,一键获取亚马逊云科技中国区最新产品/服务资讯!
【免费】亚马逊云科技“100 余种核心云服务产品免费试用”
【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用”
亚马逊云科技(Amazon Web Services)是全球云计算的开创者和引领者,自 2006 年以来一直以不断创新、技术领先、服务丰富、应用广泛而享誉业界。亚马逊云科技可以支持几乎云上任意工作负载。亚马逊云科技目前提供超过 200 项全功能的服务,涵盖计算、存储、网络、数据库、数据分析、机器人、机器学习与人工智能、物联网、移动、安全、混合云、虚拟现实与增强现实、媒体,以及应用开发、部署与管理等方面;基础设施遍及 31 个地理区域的 99 个可用区,并计划新建 4 个区域和 12 个可用区。全球数百万客户,从初创公司、中小企业,到大型企业和政府机构都信赖亚马逊云科技,通过亚马逊云科技的服务强化其基础设施,提高敏捷性,降低成本,加快创新,提升竞争力,实现业务成长和成功。