生成式人工智能系统应用员一级高级技师 详细题库
下载APP练习系统部署方案设计知识 题目预览
-
第 1 题 单选题在生成式人工智能系统的部署整体架构设计中,为了支撑高并发推理请求,通常采用( )架构来分配计算资源。
- A. 单体应用
- B. 主从复制
- C. 负载均衡集群
- D. 点对点网络
解析:负载均衡集群可以将请求分发到多个推理节点,提高并发处理能力。 -
第 2 题 单选题在大型语言模型(LLM)推理服务的部署架构中,为了降低推理延迟,通常将模型( )部署在GPU服务器上。
- A. 参数服务器
- B. 嵌入层
- C. 全量参数
- D. 量化后的模型
解析:量化后的模型可以减小模型体积,降低显存占用和计算量,从而降低推理延迟。 -
第 3 题 单选题在生成式AI系统的整体架构中,用于解耦推理请求与异步处理任务,并实现削峰填谷的组件通常采用( )。
- A. 模型网关
- B. 消息队列
- C. 缓存服务
- D. 数据库
解析:消息队列可以缓冲请求,异步处理,实现削峰填谷。 -
第 4 题 单选题在生成式AI系统的整体架构中,实现模型版本平滑切换且能快速回滚的部署策略是( )。
- A. 蓝绿部署
- B. 滚动更新
- C. 金丝雀发布
- D. 全量替换
解析:蓝绿部署通过维护两套环境(蓝和绿),切换流量实现平滑切换,并能快速回滚。 -
第 5 题 判断题在生成式人工智能系统的整体架构设计中,将模型推理服务与前端API服务部署在同一台服务器上可以降低网络延迟,提高系统可靠性。
- A. 对
- B. 错
解析:混合部署会导致资源争抢,降低可靠性,通常应分离部署。 -
第 6 题 判断题使用容器化技术(如Docker)和编排平台(如Kubernetes)可以有效管理生成式AI系统的分布式部署,实现自动伸缩和故障恢复。
- A. 对
- B. 错
解析:容器化和K8s是主流方案,支持自动伸缩和故障恢复。 -
第 7 题 多选题在生成式AI系统的部署整体架构设计中,以下哪些组件通常属于推理服务层的组成部分?( )
- A. 模型推理引擎
- B. 负载均衡器
- C. 向量数据库
- D. 模型缓存
- E. 日志收集系统
解析:模型推理引擎执行推理,负载均衡器分发请求到推理节点,模型缓存加速推理结果;向量数据库属于数据存储层,日志收集属于监控层。 -
第 8 题 多选题在设计生成式AI系统的整体架构时,考虑高可用性和灾备,通常采用以下哪些策略?( )
- A. 多副本部署
- B. 数据热备份
- C. 单点故障转移
- D. 异地多活
- E. 手动切换
解析:多副本提供冗余,热备份快速恢复,异地多活实现跨地域容灾;单点故障转移表述不准确,手动切换不符合高可用自动化要求。
余下详情题库请下载 APP 或扫码小程序查看全部题目与智能刷题。