人工智能工程技术人员三级高级工-自然语言及语音处理产品实现 详细题库

人工智能安全与隐私保护相关知识 题目预览

• 第 1 题 单选题
  人工智能安全的核心目标“CIA三元组”通常指的是保密性、完整性和（ ）。
  • A. 可追溯性
  • B. 可解释性
  • C. 可用性
  • D. 可靠性
  解析：“CIA三元组”是信息安全的经典模型，C代表保密性（Confidentiality），I代表完整性（Integrity），A代表可用性（Availability），这是人工智能系统安全的基础目标。
• 第 2 题 单选题
  通过向输入数据中添加精心构造的微小扰动，导致人工智能模型做出错误预测或分类的攻击，被称为（ ）。
  • A. 数据投毒攻击
  • B. 模型窃取攻击
  • C. 对抗样本攻击
  • D. 后门攻击
  解析：对抗样本攻击是针对机器学习模型的一种常见攻击方式，通过在原始输入上添加人眼难以察觉的扰动，使模型产生高置信度的错误输出。
• 第 3 题 单选题
  在人工智能训练过程中，攻击者通过污染训练数据集来破坏模型性能或植入后门的行为，属于（ ）。
  • A. 模型逆向攻击
  • B. 成员推理攻击
  • C. 数据中毒攻击
  • D. 逃避攻击
  解析：数据中毒攻击发生在模型的训练阶段，攻击者通过向训练数据中注入恶意样本，影响模型的训练过程，从而操控模型在测试阶段的行为。
• 第 4 题 单选题
  （ ）是一种通过在数据或模型输出中添加可控噪声，从而在不泄露个体信息的前提下进行数据分析和模型发布的隐私保护技术。
  • A. 同态加密
  • B. 安全多方计算
  • C. 差分隐私
  • D. 联邦学习
  解析：差分隐私是一种严格的数学隐私保护框架，其核心思想是无论单个个体是否存在于数据集中，对查询结果的影响都是可忽略的，从而保护个体隐私。
• 第 5 题 判断题
  在人工智能系统安全中，“最小权限原则”是指每个用户和程序只应拥有完成其任务所必需的最小权限。
  • A. 对
  • B. 错
  解析：最小权限原则是信息安全领域的一项基本原则，将其应用于人工智能系统有助于限制潜在攻击者或恶意组件所能造成的损害范围。
• 第 6 题 判断题
  差分隐私技术能完全消除数据中的所有个人敏感信息，实现绝对的匿名化。
  • A. 对
  • B. 错
  解析：差分隐私并不能完全消除信息，而是通过添加噪声来量化并控制隐私泄露的风险。它提供的是可量化的隐私保护保证，而非绝对的、不可破解的匿名化。
• 第 7 题 多选题
  以下哪些属于人工智能模型安全需要考虑的关键属性？（ ）
  • A. 鲁棒性
  • B. 公平性
  • C. 可复现性
  • D. 可解释性
  • E. 高效性
  解析：模型安全不仅关注抵抗攻击的鲁棒性（A），也关注其行为透明可信的可解释性（D），以及确保结果稳定可靠的可复现性（C）。公平性（B）主要属于伦理范畴，高效性（E）属于性能指标，它们虽重要，但并非直接核心的安全属性。
• 第 8 题 多选题
  下列哪些措施有助于在人工智能生命周期中保护数据安全与隐私？（ ）
  • A. 对训练数据进行脱敏处理
  • B. 在数据传输过程中使用加密技术
  • C. 严格控制对训练数据的访问权限
  • D. 定期对模型进行重训练
  • E. 采用隐私增强计算技术如联邦学习
  解析：数据脱敏（A）、传输加密（B）、访问控制（C）是保护数据安全与隐私的传统有效手段。联邦学习（E）作为一种隐私增强计算技术，能在不共享原始数据的前提下进行模型训练。定期重训练（D）主要用于提升模型性能，并非直接的隐私保护措施。