生成式人工智能系统应用员三级高级工 详细题库
下载APP练习生成式人工智能安全与隐私保护相关知识 题目预览
-
第 1 题 单选题在生成式人工智能系统中,利用模型对特定输入模式的敏感性,通过微小扰动使模型输出错误结果,这种攻击称为( )。
- A. 对抗攻击
- B. 越狱攻击
- C. 模型窃取
- D. 数据投毒
解析:对抗攻击通过添加微小扰动导致模型分类或生成错误。 -
第 2 题 单选题攻击者通过向模型发送大量查询,利用模型输出推断训练集中是否存在特定用户数据,这种隐私攻击称为( )。
- A. 模型反转
- B. 成员推断攻击
- C. 后门攻击
- D. 提示注入
解析:成员推断攻击利用模型输出统计特性判断数据成员身份。 -
第 3 题 单选题生成式人工智能模型的训练数据中若混入带有后门的样本,导致模型在特定触发词下生成有害内容,这种风险属于( )。
- A. 对抗攻击
- B. 模型崩溃
- C. 数据投毒
- D. 模型逆向
解析:数据投毒(后门攻击)通过在训练数据中嵌入触发器控制模型行为。 -
第 4 题 单选题攻击者通过非法访问模型API或内部接口,获取模型参数或架构信息,从而复制模型功能,这种安全威胁称为( )。
- A. 模型窃取
- B. 数据泄露
- C. 提示注入
- D. 幻觉生成
解析:模型窃取指通过查询或入侵获取模型知识。 -
第 5 题 判断题生成式人工智能模型可能因为训练数据中的偏见而生成歧视性内容,从而引发伦理和安全风险。
- A. 对
- B. 错
解析:训练数据中的偏见会被模型学习,导致输出存在歧视,这是主要安全风险之一。 -
第 6 题 判断题对生成式人工智能系统进行模型压缩和量化会显著增加模型受到对抗攻击的风险。
- A. 对
- B. 错
解析:模型压缩和量化通常不会增加对抗攻击风险,反而可能降低模型复杂度,但主要影响性能,并非显著增加安全风险。 -
第 7 题 多选题生成式人工智能系统面临的主要安全风险包括( )。
- A. 隐私泄露
- B. 对抗攻击
- C. 模型窃取
- D. 模型训练加速
- E. 内容审核
解析:隐私泄露、对抗攻击、模型窃取都是常见安全风险。模型训练加速是性能优化,内容审核是安全防护措施。 -
第 8 题 多选题以下哪些措施可以有效缓解生成式人工智能系统中的提示注入攻击风险?( )
- A. 输入过滤与净化
- B. 使用权限控制
- C. 输出检测与审核
- D. 增加模型参数量
- E. 采用对抗训练
解析:输入过滤可阻止恶意提示,权限控制限制访问,输出检测发现异常输出。增加参数量不直接缓解提示注入,对抗训练主要针对对抗样本。
余下详情题库请下载 APP 或扫码小程序查看全部题目与智能刷题。