生成式人工智能系统应用员二级技师 详细题库
下载APP练习多模型参数的协同配置知识 题目预览
-
第 1 题 单选题在生成式人工智能多模型协同中,将两个规模相近的模型在参数空间进行加权平均,以获得兼具两者能力的统一模型,这种参数协同类型通常被称为( )。
- A. 参数平均
- B. 知识蒸馏
- C. 模型集成
- D. 参数剪枝
解析:参数平均(权重平均)直接在参数空间对多个模型的权重进行加权融合,是参数协同的基本类型之一。知识蒸馏是知识迁移,模型集成是输出级融合,参数剪枝是模型压缩。 -
第 2 题 单选题与输出集成相比,在将多个同结构模型的参数进行加权平均的协同方式中,部署阶段的主要优势是( )。
- A. 必须保留所有原始模型
- B. 只需维护一个融合后的模型
- C. 需要同时加载全部模型参数
- D. 增加推理时的计算量
解析:参数加权平均将多个模型合并为一个模型,部署时无需保留和加载多个原始模型,因此可降低部署和推理成本。A、C、D与优势相反。 -
第 3 题 单选题在混合专家模型的稀疏激活参数协同机制中,对于每个输入样本,门控网络通常( )。
- A. 激活所有专家模型
- B. 随机激活一个专家模型
- C. 按门控得分激活最高的少数几个专家模型
- D. 按固定顺序轮流激活专家模型
解析:混合专家模型属于稀疏激活参数协同,门控网络依据输入样本的得分选择得分最高的少数几个专家,因此激活的是“少数几个”专家,而非全部、随机或固定轮换。 -
第 4 题 单选题关于“共享参数”这一参数协同类型,下列说法正确的是( )。
- A. 共享参数要求所有模型具有完全相同的参数量
- B. 共享参数是指多个模型在训练或推理中复用同一组参数子集
- C. 共享参数后各模型不再有独立功能
- D. 共享参数只适用于同构模型
解析:共享参数是让多个模型或任务复用部分参数,从而节省资源、促进能力迁移;不要求所有模型完全相同,也不要求各模型失去独立功能,且可跨结构共享参数子集。 -
第 5 题 判断题参数协同要求参与协同的多个模型必须具有完全相同的网络结构。
- A. 对
- B. 错
解析:参数协同不要求结构完全相同。例如共享参数、低秩适配、稀疏专家激活等可在不同结构或部分参数间进行协同,只有参数平均等特定方式通常要求同构。 -
第 6 题 判断题在混合专家模型中,门控网络根据输入选择激活不同的专家,这是一种典型的稀疏参数协同方式。
- A. 对
- B. 错
解析:混合专家模型通过门控网络为每个输入动态选择部分专家参数参与计算,属于稀疏激活的参数协同,是参数协同的典型类型之一。 -
第 7 题 多选题下列属于多模型参数协同的典型类型的有( )。
- A. 参数平均
- B. 知识蒸馏
- C. 稀疏专家激活
- D. 低秩适配参数共享
- E. 输出投票融合
解析:参数平均、稀疏专家激活和低秩适配参数共享均属于参数协同;知识蒸馏属于知识迁移,输出投票融合属于输出级集成,均不属于参数协同。 -
第 8 题 多选题关于参数协同的基本概念,下列说法正确的有( )。
- A. 参数协同强调在参数层面而非仅输出层面进行模型能力融合
- B. 参数协同只能用于训练完成后的模型,不能用于训练过程
- C. 参数协同可以降低某些场景下的部署成本
- D. 所有参数协同方式都必须修改全部模型参数
- E. 参数协同需要关注不同模型参数空间中表示的对应关系
解析:参数协同在参数层面融合能力,可用于训练中或训练后,也可降低部署成本;不同模型参数空间通常存在排列或表示不对应问题,因此需要关注对应关系。B和D过于绝对,错误。
余下详情题库请下载 APP 或扫码小程序查看全部题目与智能刷题。