AWS Lambda 上的 Spring Boot 应用程序 - 使用 Spring Cloud Function 测量冷启动和热启动部分

介绍

在第 8 部分中，我们介绍了 spring cloud 函数背后的概念，在第 9 部分中，我们演示了如何使用 java 21 和 spring boot 3.2 通过 spring cloud function 开发 aws lambda。在本系列的这篇文章中，我们将测量冷启动和热启动时间，包括在 lambda 函数上启用 snapstart，同时应用各种启动技术，例如启动 dynamodb 调用和启动（代理）整个 api 网关请求，而无需通过网络。我们将使用 spring boot 3.2 示例应用程序进行测量，对于所有 lambda 函数，使用 java_tool_options: "-xx:+tieredcompilation -xx:tieredstopatlevel=1" 并为它们提供 lambda 1024 mb 内存。

使用 spring cloud function 并使用 java 21 和 spring boot 3.2 测量冷启动和热时间

我们首先解释如何在 lambda 函数上启用 aws snapstart，因为它（顶部启动）提供了最大的 lambda 性能（尤其是冷启动时间）优化潜力。这只是一个配置问题：

snapstart:
  applyon: publishedversions 

应用于 lambda 函数属性或 sam 模板的全局函数部分。我想更深入地了解如何在 snpastart 之上为我们的用例使用各种启动技术。我在文章 aws lambda snapstart - 测量启动、端到端延迟和部署时间中解释了启动背后的想法

1) 启动 dynamodb 请求的代码可以在这里找到。

该类还实现了 crac 项目的 import org.crac.resource 接口。

通过这个调用

core.getglobalcontext().register(this);

getproductbyidwithdynamodbrequestpriminghandler 类将自身注册为 crac 资源。

我们还通过从 crac api 实现 beforecheckpoint 方法来启动 dynamodb 调用。

      @override
      public void beforecheckpoint(org.crac.context<? extends resource> context) throws exception {
             productdao.getproduct("0");
      }

我们将在 lambda funtiom 的部署阶段以及拍摄 firecracker microvm 快照之前调用它。

2) 启动整个 api gateway 请求的代码可以在这里找到。

这个类还额外实现了 import org.crac.resource 接口，如上例所示。
我们将重新使用我在文章 aws lambda snapstart - 第 6 部分启动 java 11 和 micronaut、quarkus 和 spring boot 框架的请求调用 中描述的丑陋技术。我不建议在生产中使用这种技术，但它展示了通过预加载 spring boot 和 spring cloud function 模型以及执行 dynamodb 的 lambda 模型之间的映射来启动整个 api gateway 请求来减少冷启动的进一步潜力调用启动。

id 等于 0 的 /products/{id} 的 api gateway 请求构造 api gateway json 请求如下所示：

      private static string getapigatewayrequestmultiline () {
             return  """
                        {
                      "resource": "/products/{id}",
                      "path":  "/products/0",
                      "httpmethod": "get",
                      "pathparameters": {
                            "id": "0" 
                        },
                       "requestcontext": {
                          "identity": {
                        "apikey": "blabla"
                      }
                      }
                    }
           """;
      }

使用 spring cloud function functioninvoker 类来启动（代理）整个 api 网关请求，而无需通过网络，beforecheckpoint 类通过传递上面构造的 api 网关 json 请求的输入流来调用其 handlerequest 方法，如下所示：

@override
public void beforecheckpoint(org.crac.context<? extends resource> context) throws exception {
            
new functioninvoker().handlerequest( 
  new bytearrayinputstream(getapigatewayrequestmultiline().
  getbytes(standardcharsets.utf_8)),
  new bytearrayoutputstream(), new mocklambdacontext());
}

下面的实验结果基于使用 lambda 函数在 1 小时内以 1024 mb 内存设置重现超过 100 次冷启动和大约 100.000 次热启动。为此，我使用了负载测试工具，但是您可以使用任何您想要的工具，例如 serverless-artillery 或 postman。

我用 4 种不同的场景进行了所有这些实验：

ModelGate

一站式AI模型管理与调用工具

下载

1) 未启用 snapstart

在 template.yaml 中使用以下配置：

    handler: org.springframework.cloud.function.adapter.aws.functioninvoker::handlerequest    
      #snapstart:
         #applyon: publishedversions      

我们需要调用名为 getproductbyidwithspringboot32scf 的 lambda 函数，该函数映射到 getproductbyidhandler lambda handler java 类。

2) snapstart 已启用，但未应用启动

在 template.yaml 中使用以下配置：

    handler: org.springframework.cloud.function.adapter.aws.functioninvoker::handlerequest 
    snapstart:
      applyon: publishedversions 

我们需要调用名称为 getproductbyidwithspringboot32scf 的相同 lambda 函数，该函数映射到 getproductbyidhandler lambda handler java 类。
3) 通过 dynamodb 调用启动启用 snapstart

在 template.yaml 中使用以下配置：

    handler: org.springframework.cloud.function.adapter.aws.functioninvoker::handlerequest    
    snapstart:
      applyon: publishedversions      

并且我们需要调用名为 getproductbyidwithspringboot32scfanddynamodbrequestpriming 的 lambda 函数，该函数映射到 getproductbyidwithdynamodbrequestpriminghandler lambda handler java 类。

4) snapstart 通过 api 网关请求调用启动/代理启用

在 template.yaml 中使用以下配置：

    Handler: org.springframework.cloud.function.adapter.aws.FunctionInvoker::handleRequest
    SnapStart:
      ApplyOn: PublishedVersions      

我们需要使用名称调用 lambda 函数
getproductbyidwithspringboot32scfandwebrequestpriming 映射到 getproductbyidwithwebrequestpriminghandler lambda handler java 类。

缩写c代表冷启动，w代表热启动。

冷 (c) 和热 (w) 开始时间（以毫秒为单位）：

结论

通过单独在 lambda 函数上启用 snapstart，可以显着减少 lambda 函数的冷启动时间。通过另外使用 dynamodb 调用启动，我们能够实现的冷启动仅略高于我的文章 aws snapstart -measuring cold and warm start with java 21 using different memory settings（我们在其中测量了纯 lambda 的冷启动和热启动）中描述的冷启动无需使用任何框架（包括 1024mb 内存设置，如我们的场景中）即可运行该功能。

比较我们在使用 aws serverless java container 测量冷启动和热启动和使用 aws lambda web adapter 测量冷启动和热启动一文中使用 aws serverless java container 测量的冷启动时间和热启动时间，我们发现 spring cloud function 提供了更高的冷启动时间与 aws lambda web adapter 相比，但冷启动时间与 aws serverless java container 相当（结果因百分位数而略有不同）。就热启动/执行时间而言，特别是考虑低于 99.9 的百分位数时，所有 3 种方法都具有相当可比的结果。