生成式人工智能系统应用员一级高级技师 详细题库

生成式人工智能安全与隐私保护相关知识 题目预览

• 第 1 题 单选题
  攻击者通过在训练数据中插入恶意样本，使模型在特定条件下输出错误结果，这种攻击称为（ ）。
  • A. 对抗样本攻击
  • B. 数据投毒攻击
  • C. 后门攻击
  • D. 模型逆向攻击
  解析：数据投毒攻击通过在训练阶段注入恶意样本，使模型学习到错误模式，从而在特定触发条件下产生预期外的输出。
• 第 2 题 单选题
  通过反复查询生成式人工智能模型，并分析其输出结果来推断训练集中的个人隐私信息，这种风险属于（ ）。
  • A. 成员推理攻击
  • B. 模型幻觉
  • C. 数据投毒
  • D. 对抗样本
  解析：成员推理攻击通过多次查询模型，利用输出统计规律判断特定样本是否存在于训练集中，从而导致隐私泄露。
• 第 3 题 单选题
  以下哪种攻击方式通过向模型输入特殊设计的提示词，诱导其忽略安全指令？（ ）
  • A. 模型后门
  • B. 数据提取
  • C. 提示注入
  • D. 模型克隆
  解析：提示注入攻击通过精心构造的输入提示，绕过模型的内容过滤机制，使其输出违规或有害内容。
• 第 4 题 单选题
  生成式人工智能模型由于训练数据中的系统性偏差，可能导致输出内容包含（ ）风险，例如对特定群体的歧视。
  • A. 幻觉
  • B. 隐私泄露
  • C. 版权侵权
  • D. 偏见放大
  解析：偏见放大风险源于训练数据中固有的社会偏见，模型学习后会在生成内容中放大这种不平等。
• 第 5 题 判断题
  生成式人工智能模型的“幻觉”风险是指模型生成的内容完全随机且无意义。
  • A. 对
  • B. 错
  解析：幻觉是指模型生成看似合理但实际与事实不符的内容，并非完全随机或无意义。
• 第 6 题 判断题
  对抗样本攻击可以应用于生成式人工智能系统的输入阶段，通过微小扰动使模型产生错误输出。
  • A. 对
  • B. 错
  解析：对抗样本通过在输入数据上添加精心设计的微小扰动，导致模型输出与预期结果显著偏离。
• 第 7 题 多选题
  以下关于生成式人工智能安全风险的描述，正确的有（ ）。
  • A. 数据投毒攻击可能使模型在特定触发器下输出错误结果。
  • B. 提示注入攻击可以通过构造特殊输入绕过模型安全约束。
  • C. 模型窃取攻击旨在获取模型内部参数或功能。
  • D. 对抗样本攻击通过对输入添加微小扰动误导模型。
  • E. 模型幻觉攻击是指模型故意生成虚假信息。
  解析：A、B、C、D均为常见安全攻击类型；E错误，因为模型幻觉是模型固有缺陷而非主动攻击，且并非故意。
• 第 8 题 多选题
  在生成式人工智能应用中，可能导致用户隐私泄露的风险因素包括（ ）。
  • A. 模型过度记忆训练数据中的个人信息
  • B. 成员推理攻击
  • C. 模型输出中无意泄露敏感信息
  • D. 数据投毒攻击
  • E. 对抗样本攻击
  解析：A、B、C直接涉及隐私泄露；D主要影响模型行为可靠性，E主要影响输出准确性，均非直接隐私风险。