0

0

如何使用 Docker 在 AWS Lambda 上部署机器学习模型

WBOY

WBOY

发布时间:2023-04-12 12:43:05

|

1671人浏览过

|

来源于51CTO.COM

转载

在本教程中,我们将引导您完成将 ML 模型打包为 Docker 容器并将其部署在无服务器计算服务 AWS Lambda 上的过程。

在本教程结束时,您将拥有一个可以通过 API 调用的工作 ML 模型,并且您将对如何在云上部署 ML 模型有更深入的了解。无论您是机器学习工程师、数据科学家还是开发人员,本教程旨在让对 ML 和 Docker 有基本了解的任何人都可以访问。那么,让我们开始吧!

什么是Docker?

码头工人是一种旨在使使用容器更轻松地创建、部署和运行应用程序的工具。容器允许开发人员将应用程序及其所需的所有部分打包在一起,例如库和其他依赖项,并将其作为一个包发送出去。通过使用容器,开发人员可以确保他们的应用程序将在任何其他机器上运行,而不管机器可能具有的任何自定义设置可能与用于编写和测试代码的机器不同。Docker 提供了一种将应用程序及其依赖项打包到轻量级、可移植容器中的方法,该容器可以轻松地从一个环境移动到另一个环境。这使得创建一致的开发、测试和生产环境以及更快速、更可靠地部署应用程序变得更加容易。从这里安装 Docker:https://docs.docker.com/get-docker/。

DreamStudio
DreamStudio

SD兄弟产品!AI 图像生成器

下载

什么是 AWS Lambda?

Amazon Web Services (AWS) Lambda是一个无服务器计算平台,它运行代码以响应事件并自动为您管理底层计算资源。它是 AWS 提供的一项服务,允许开发人员在云中运行他们的代码,而不必担心运行代码所需的基础设施。AWS Lambda 会自动扩展您的应用程序以响应传入的请求流量,您只需为消耗的计算时间付费。这使其成为构建和运行微服务、实时数据处理和事件驱动应用程序的有吸引力的选择。

什么是 AWS ECR?

Amazon Web Services (AWS) Elastic Container Registry (ECR) 是一个完全托管的 Docker 容器注册表,可让开发人员轻松存储、管理和部署 Docker 容器映像。它是一种安全且可扩展的服务,使开发人员能够在 AWS 云中存储和管理 Docker 映像,并轻松地将它们部署到 Amazon Elastic Container Service (ECS) 或其他基于云的容器编排平台。ECR 与其他 AWS 服务集成,例如 Amazon ECS 和 Amazon EKS,并为 Docker 命令行界面 (CLI) 提供本地支持。这使得使用熟悉的 Docker 命令从 ECR 推送和拉取 Docker 映像以及自动化构建、测试和部署容器化应用程序的过程变得容易。

安装 AWS CLI

使用这个在您的系统上安装 AWS CLI 。通过在您的 AWS 账户中创建 IAM 用户来获取 AWS 访问密钥 ID 和 AWS 秘密访问密钥。安装后,运行以下命令配置您的 AWS CLI 并插入必填字段。

aws configure

使用 Docker 部署 Lambda 函数

我们将在本教程中部署 OpenAI 剪辑模型来矢量化输入文本。Lambda 函数需要 Docker 容器中的 amazon Linux 2,因此我们使用
public.ecr.aws/lambda/python:3.8。此外,由于 Lambda 具有只读文件系统,它不允许我们在内部下载模型,因此我们需要在创建映像时下载并复制它们。

从这里获取工作代码并提取它。

更改 Dockerfile 所在的工作目录,然后运行以下命令:

docker build -t lambda_image .

现在我们已经准备好要在 Lambda 上部署的映像。要在本地检查它,请运行命令:

docker run -p 9000:8080 lambda_image

要检查它,向它发送一个 curl 请求,它应该返回输入文本的向量:

curl -XPOST "http://localhost:9000/2015-03-31/functions/function/invocations" -d '{"text": "This is a test for text encoding"}'

输出

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

如何使用 Docker 在 AWS Lambda 上部署机器学习模型

先将镜像部署到Lambda上,我们需要将其推送到ECR上,因此登录AWS账户,在ECR中创建仓库lambda_image。创建存储库后,转到创建的存储库,您将看到视图推送命令选项单击它,您将获得将图像推送到存储库的命令。

如何使用 Docker 在 AWS Lambda 上部署机器学习模型

现在运行第一个命令以使用 AWS CLI 对您的 Docker 客户端进行身份验证。

我们已经创建了 Docker 镜像,因此跳过第二步并运行第三条命令来标记创建的镜像。

运行最后一条命令将镜像推送到 ECR 中。运行后你会看到界面是这样的:

如何使用 Docker 在 AWS Lambda 上部署机器学习模型

推送完成后,您将在 ECR 的存储库中看到带有“:latest”标签的图像。

如何使用 Docker 在 AWS Lambda 上部署机器学习模型

复制图像的 URI。我们在创建 Lambda 函数时需要它。

现在转到 Lambda 函数并单击“创建函数”选项。我们正在从图像创建一个函数,因此选择容器图像的选项。添加函数名称并粘贴我们从 ECR 复制的 URI,或者您也可以浏览图像。选择architecture x84_64,最后点击create_image选项。

构建 Lambda 函数可能需要一些时间,请耐心等待。执行成功后,你会看到如下界面:

如何使用 Docker 在 AWS Lambda 上部署机器学习模型

Lambda 函数默认有 3 秒的超时限制和 128 MB 的 RAM,所以我们需要增加它,否则它会抛出错误。为此,请转到配置选项卡并单击“编辑”。

如何使用 Docker 在 AWS Lambda 上部署机器学习模型

现在将超时设置为 5-10 分钟(最大限制为 15 分钟)并将 RAM 设置为 2-3 GB,然后单击保存按钮。更新 Lambda 函数的配置需要一些时间。

如何使用 Docker 在 AWS Lambda 上部署机器学习模型

更新更改后,该功能就可以进行测试了。要测试 lambda 函数,请转到“测试”选项卡并将键值添加到事件 JSON 中作为文本:“这是文本编码测试。” 然后点击测试按钮。

如何使用 Docker 在 AWS Lambda 上部署机器学习模型

由于我们是第一次执行 Lambda 函数,因此执行可能需要一些时间。成功执行后,您将在执行日志中看到输入文本的向量。

如何使用 Docker 在 AWS Lambda 上部署机器学习模型

现在我们的 Lambda 函数已部署并正常工作。要通过 API 访问它,我们需要创建一个函数 URL。

要为 Lambda 函数创建 URL,请转到 Configuration 选项卡并选择 Function URL 选项。然后单击创建函数 URL 选项。

如何使用 Docker 在 AWS Lambda 上部署机器学习模型

现在,保留身份验证 None 并单击 Save。

如何使用 Docker 在 AWS Lambda 上部署机器学习模型

该过程完成后,您将获得用于通过 API 访问 Lambda 函数的 URL。以下是使用 API 访问 Lambda 函数的示例 Python 代码:

import requests function_url = ""url = f"{function_url}?text=this is test text" payload={}headers = {} response = requests.request("GET", url, headers=headers, data=payload) print(response.text)

成功执行代码后,您将获得输入文本的向量。

如何使用 Docker 在 AWS Lambda 上部署机器学习模型

所以这是一个如何使用 Docker 在 AWS Lambda 上部署 ML 模型的示例。如果您有任何疑问,请告诉我们。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
json数据格式
json数据格式

JSON是一种轻量级的数据交换格式。本专题为大家带来json数据格式相关文章,帮助大家解决问题。

457

2023.08.07

json是什么
json是什么

JSON是一种轻量级的数据交换格式,具有简洁、易读、跨平台和语言的特点,JSON数据是通过键值对的方式进行组织,其中键是字符串,值可以是字符串、数值、布尔值、数组、对象或者null,在Web开发、数据交换和配置文件等方面得到广泛应用。本专题为大家提供json相关的文章、下载、课程内容,供大家免费下载体验。

549

2023.08.23

jquery怎么操作json
jquery怎么操作json

操作的方法有:1、“$.parseJSON(jsonString)”2、“$.getJSON(url, data, success)”;3、“$.each(obj, callback)”;4、“$.ajax()”。更多jquery怎么操作json的详细内容,可以访问本专题下面的文章。

337

2023.10.13

go语言处理json数据方法
go语言处理json数据方法

本专题整合了go语言中处理json数据方法,阅读专题下面的文章了解更多详细内容。

82

2025.09.10

curl_exec
curl_exec

curl_exec函数是PHP cURL函数列表中的一种,它的功能是执行一个cURL会话。给大家总结了一下php curl_exec函数的一些用法实例,这个函数应该在初始化一个cURL会话并且全部的选项都被设置后被调用。他的返回值成功时返回TRUE, 或者在失败时返回FALSE。

455

2023.06.14

linux常见下载安装工具
linux常见下载安装工具

linux常见下载安装工具有APT、YUM、DNF、Snapcraft、Flatpak、AppImage、Wget、Curl等。想了解更多linux常见下载安装工具相关内容,可以阅读本专题下面的文章。

183

2023.10.30

lambda表达式
lambda表达式

Lambda表达式是一种匿名函数的简洁表示方式,它可以在需要函数作为参数的地方使用,并提供了一种更简洁、更灵活的编码方式,其语法为“lambda 参数列表: 表达式”,参数列表是函数的参数,可以包含一个或多个参数,用逗号分隔,表达式是函数的执行体,用于定义函数的具体操作。本专题为大家提供lambda表达式相关的文章、下载、课程内容,供大家免费下载体验。

215

2023.09.15

python lambda函数
python lambda函数

本专题整合了python lambda函数用法详解,阅读专题下面的文章了解更多详细内容。

193

2025.11.08

TypeScript类型系统进阶与大型前端项目实践
TypeScript类型系统进阶与大型前端项目实践

本专题围绕 TypeScript 在大型前端项目中的应用展开,深入讲解类型系统设计与工程化开发方法。内容包括泛型与高级类型、类型推断机制、声明文件编写、模块化结构设计以及代码规范管理。通过真实项目案例分析,帮助开发者构建类型安全、结构清晰、易维护的前端工程体系,提高团队协作效率与代码质量。

49

2026.03.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
尚学堂Mahout视频教程
尚学堂Mahout视频教程

共18课时 | 3.3万人学习

光速学会docker容器
光速学会docker容器

共33课时 | 2.1万人学习

Docker 17 中文开发手册
Docker 17 中文开发手册

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号