人工智能工程技术人员五级初级工-人工智能平台产品实现 详细题库

人工智能安全与隐私保护相关知识 题目预览

• 第 1 题 单选题
  在人工智能安全中，通过在输入数据上添加难以察觉的扰动导致模型误判的攻击方式称为（ ）。
  • A. 对抗样本攻击
  • B. 数据投毒攻击
  • C. 模型逆向攻击
  • D. 成员推断攻击
  解析：对抗样本攻击利用精心设计的输入扰动欺骗模型，是典型的鲁棒性威胁。
• 第 2 题 单选题
  攻击者在训练阶段向数据集中注入恶意样本，使模型学习到特定后门的行为称为（ ）。
  • A. 对抗样本攻击
  • B. 数据投毒攻击
  • C. 模型逆向攻击
  • D. 成员推断攻击
  解析：数据投毒攻击在训练阶段注入恶意数据，使模型产生后门或偏差，属于训练阶段威胁。
• 第 3 题 单选题
  攻击者通过多次查询目标模型并利用其输出，试图重建模型参数或结构的攻击称为（ ）。
  • A. 对抗样本攻击
  • B. 数据投毒攻击
  • C. 模型逆向攻击
  • D. 成员推断攻击
  解析：模型逆向攻击通过反复查询模型，利用输出信息反推模型参数或架构，属于模型窃取攻击。
• 第 4 题 单选题
  攻击者利用模型输出差异，判断某个特定样本是否属于训练集的攻击称为（ ）。
  • A. 对抗样本攻击
  • B. 数据投毒攻击
  • C. 模型逆向攻击
  • D. 成员推断攻击
  解析：成员推断攻击通过比较模型对目标样本和参考样本的输出差异，推断该样本是否存在于训练集中。
• 第 5 题 判断题
  在人工智能安全中，通过向模型输入加入随机噪声可以完全防御所有类型的对抗样本攻击。
  • A. 对
  • B. 错
  解析：加入随机噪声是防御对抗样本的一种方法，但不能完全防御所有攻击，尤其面对自适应攻击时效果有限，且可能影响模型正常性能。
• 第 6 题 判断题
  差分隐私中的隐私预算ε值越小，表示隐私保护强度越高，但模型的可用性往往随之降低。
  • A. 对
  • B. 错
  解析：ε越小，添加的噪声越大，隐私保护更强，但模型准确率通常会下降，即可用性降低，这是隐私保护与可用性之间的权衡。
• 第 7 题 多选题
  以下关于人工智能系统安全威胁的描述，正确的有（ ）。
  • A. 对抗样本攻击可以在不影响人类判断的情况下误导模型
  • B. 数据投毒攻击仅发生在模型推理阶段
  • C. 模型逆向攻击可能导致模型参数泄露
  • D. 成员推断攻击能够暴露训练数据的隐私信息
  • E. 后门攻击是通过在模型中植入特定触发器来实现恶意行为
  解析：A正确，对抗样本扰动通常人眼难以察觉；B错误，数据投毒发生在训练阶段而非推理阶段；C正确，模型逆向攻击可重构模型参数；D正确，成员推断攻击可判断个体是否在训练集中；E正确，后门攻击在训练时植入触发器，推理时激活。
• 第 8 题 多选题
  在人工智能安全中，以下哪些措施有助于保护模型和数据的隐私？ （ ）
  • A. 训练数据脱敏
  • B. 使用差分隐私
  • C. 采用联邦学习框架
  • D. 公开模型全部参数
  • E. 实施访问控制与审计
  解析：A脱敏减少敏感信息；B差分隐私添加噪声；C联邦学习数据不出本地；D公开参数反而增加泄露风险；E访问控制限制未授权访问。因此ABCE正确。