Assignment A1 - 30%
本页目录· 12 条
相关信息
本作业旨在评估你在云原生开发、分布式系统和性能工程方面的能力,涵盖以下核心目标:
- API 开发: 使用 FastAPI 构建一个基于 Python 的 RESTful API,以处理图像负载,安全地执行阻塞式或异步式机器学习推理,并返回结构化 JSON 以及 base64 编码的标注图像。
- 容器化: 将 Python 应用程序、模型权重和系统依赖打包为一个经过优化的、轻量级的 Docker 镜像。
- 基础设施即代码(IaC): 使用 Terraform、Ansible 或 Chef 自动化云资源及资源分配策略的配置。
- 容器编排: 部署容器化应用,配置 Kubernetes Deployments 和 Services(LoadBalancer),并管理严格的 Pod 资源请求与限制。
- 性能基准测试: 使用 Locust 模拟高并发流量,并在考虑硬件限制的前提下测量系统延迟、吞吐量(每秒查询数)和失败率。
- 实证报告(500 字): 以简洁、数据驱动的基准测试报告分析系统瓶颈、处理效率以及水平扩展特性。
题目
Chatgpt 说CloudEco: An Environmental Machine Learning-Based Cloud Application in Container Orchestration (30%)详细评分 Rubric 与评估框架InterviewGrade: 25.5 / 30.0
这学期A1的成绩到第十二周周二才出,教学组Interview300多人的工作量很大
今年新加了Interview,明年说不定又得整什么课改
FeedbackInterview流程
展开内容
Part 1: 介绍
介绍自己的项目,有什么特别的地方,完成了什么内容
Part 2: demo
先ssh到master展示
然后跑一个8pod 24user locust测试
Part 3: 提问
dockerfile
- 不建议换小的训练模型
- 不建议打包镜像的时候复制模型
- multi stage的目的和好处
k8s
- 拉取的镜像是public还是private
ansible
- 哪里是负责让worker加入集群的
terraform
- 查看了firewall,不过没要求解释具体内容
app
会看代码内容提具体问题,没有让修改代码
- app部分什么时候把模型加载进去的
- 查看
main.py,为什么弄了三个endpoint,/,