人工智能工程技术人员三级高级工-计算机视觉产品实现 详细题库

人工智能安全与隐私保护相关知识 题目预览

• 第 1 题 单选题
  在人工智能安全中，防止数据被未经授权修改的属性是（ ）。
  • A. 机密性
  • B. 完整性
  • C. 可用性
  • D. 可审计性
  解析：完整性是信息安全的基本属性之一，指确保数据在存储或传输过程中不被未经授权地篡改或破坏。
• 第 2 题 单选题
  对抗性攻击中，攻击者了解模型内部结构的攻击类型是（ ）。
  • A. 白盒攻击
  • B. 黑盒攻击
  • C. 灰盒攻击
  • D. 物理攻击
  解析：白盒攻击指攻击者完全了解模型的结构、参数和训练数据，能够针对性地生成对抗样本。
• 第 3 题 单选题
  下列哪项是隐私保护中的“同态加密”技术的主要特点？
  • A. 在加密数据上直接计算
  • B. 添加噪声到数据
  • C. 分布式训练数据
  • D. 保护模型参数
  解析：同态加密允许对加密数据进行计算，得到加密结果，解密后与对明文计算的结果一致，从而保护数据隐私。
• 第 4 题 单选题
  在AI安全风险评估中，识别潜在威胁和脆弱性的过程称为（ ）。
  • A. 风险分析
  • B. 威胁建模
  • C. 漏洞扫描
  • D. 安全审计
  解析：威胁建模是系统化识别、评估和记录潜在安全威胁及脆弱性的过程，有助于制定防护策略。
• 第 5 题 判断题
  对抗性攻击只能针对深度学习模型。
  • A. 对
  • B. 错
  解析：对抗性攻击可针对各种机器学习模型，包括传统模型如支持向量机，不仅限于深度学习模型。
• 第 6 题 判断题
  差分隐私技术可以完全消除隐私泄露的风险。
  • A. 对
  • B. 错
  解析：差分隐私通过添加噪声来降低隐私泄露风险，但会引入效用损失，无法完全消除风险，需在隐私和效用间权衡。
• 第 7 题 多选题
  下列哪些属于人工智能安全的基础概念？（ ）
  • A. 机密性
  • B. 完整性
  • C. 可用性
  • D. 可追溯性
  • E. 鲁棒性
  解析：人工智能安全的基础概念包括机密性、完整性和可用性（CIA三元组），以及鲁棒性（抵御攻击的能力）；可追溯性更多涉及审计和合规性。
• 第 8 题 多选题
  下列哪些技术可用于保护AI模型的安全？（ ）
  • A. 对抗训练
  • B. 模型水印
  • C. 联邦学习
  • D. 差分隐私
  • E. 数据增强
  解析：对抗训练提升模型对抗攻击的鲁棒性；模型水印用于保护模型知识产权；联邦学习和差分隐私侧重隐私保护；数据增强主要用于提高模型性能，而非直接安全保护。