人工智能工程技术人员四级中级工-自然语言及语音处理产品实现 详细题库

人工智能伦理及安全知识 题目预览

• 第 1 题 单选题
  在人工智能安全中，确保信息不被未授权实体访问的特性被称为（ ）。
  • A. 完整性
  • B. 可用性
  • C. 机密性
  • D. 可控性
  解析：机密性指信息不泄露给未授权者，是安全基础概念之一。
• 第 2 题 单选题
  对抗样本攻击主要威胁到人工智能系统的（ ）。
  • A. 可用性
  • B. 完整性
  • C. 机密性
  • D. 可解释性
  解析：对抗样本通过微小扰动使模型输出错误结果，破坏预测结果的正确性，属于完整性破坏。
• 第 3 题 单选题
  模型逆向攻击主要泄露的是（ ）。
  • A. 训练数据隐私
  • B. 模型参数
  • C. 模型结构
  • D. 推理结果
  解析：模型逆向攻击通过多次查询模型，推断出训练数据中的敏感信息，威胁隐私。
• 第 4 题 单选题
  保证系统在遭受攻击时仍能正常提供服务的能力称为（ ）。
  • A. 鲁棒性
  • B. 完整性
  • C. 机密性
  • D. 可用性
  解析：可用性指系统即使在攻击或故障下仍能维持正常服务，是安全的重要属性。
• 第 5 题 判断题
  人工智能系统的鲁棒性是指系统对输入数据微小变化的不敏感性，通常对抗样本攻击会降低鲁棒性。
  • A. 对
  • B. 错
  解析：鲁棒性定义如此，对抗样本正是利用微小扰动导致模型出错，从而降低鲁棒性。
• 第 6 题 判断题
  在人工智能安全中，数据脱敏技术可以完全消除隐私泄露风险。
  • A. 对
  • B. 错
  解析：数据脱敏只能降低风险，无法完全消除，因为存在重识别攻击、背景知识攻击等。
• 第 7 题 多选题
  以下属于人工智能安全中常见攻击类型的有（ ）。
  • A. 对抗样本攻击
  • B. 数据中毒攻击
  • C. 模型窃取攻击
  • D. 拒绝服务攻击
  • E. 侧信道攻击
  解析：对抗样本、数据中毒、模型窃取是人工智能特有的安全攻击类型；拒绝服务属于通用网络安全，侧信道虽可应用于AI但非典型攻击概念。
• 第 8 题 多选题
  在人工智能安全中，保护模型隐私的方法包括（ ）。
  • A. 差分隐私
  • B. 同态加密
  • C. 联邦学习
  • D. 模型压缩
  • E. 知识蒸馏
  解析：差分隐私、同态加密、联邦学习均可用于保护训练数据或模型参数的隐私；模型压缩和知识蒸馏主要关注模型效率，不直接提供隐私保护。