生成式人工智能系统应用员二级技师 详细题库

人工智能伦理及安全知识 题目预览

• 第 1 题 单选题
  生成式人工智能系统在数据采集环节，攻击者将恶意文本或图像混入公开数据集，导致模型在特定触发词下输出有害内容，这种安全风险通常被称为（ ）。
  • A. 数据投毒攻击
  • B. 提示注入攻击
  • C. 模型窃取攻击
  • D. 对抗样本攻击
  解析：攻击者通过污染训练数据改变模型行为，属于数据投毒攻击，是生成式人工智能主要安全风险之一。
• 第 2 题 单选题
  生成式人工智能服务提供者为了提升模型安全性而引入基于人类反馈的强化学习，但攻击者仍可通过多轮对话诱导模型逐步输出其不愿公开的训练数据细节，该风险主要属于（ ）。
  • A. 供应链投毒风险
  • B. 隐私泄露与成员推断风险
  • C. 模型幻觉风险
  • D. 算力滥用风险
  解析：多轮对话诱导模型输出训练数据细节，会暴露训练集中包含的敏感信息，属于隐私泄露与成员推断风险。
• 第 3 题 单选题
  生成式人工智能系统在对外服务时，攻击者通过查询接口获取模型对大量样本的置信度输出，并据此复制模型功能或推断模型内部参数，该行为构成的主要安全风险是（ ）。
  • A. 提示注入风险
  • B. 数据泄露风险
  • C. 模型窃取风险
  • D. 内容合规风险
  解析：通过查询接口获取置信度输出并复制功能或推断参数，属于模型窃取风险。
• 第 4 题 单选题
  生成式人工智能系统在生成内容时，由于训练数据分布不均衡或检索增强生成中的知识库冲突，模型可能产生看似合理但实际错误的输出，这种风险通常被归类为（ ）。
  • A. 越狱攻击风险
  • B. 提示注入风险
  • C. 隐私泄露风险
  • D. 幻觉风险
  解析：幻觉指模型生成看似合理但不符合事实或上下文的内容，是生成式人工智能的主要安全风险之一。
• 第 5 题 判断题
  生成式人工智能的主要安全风险中，提示注入攻击仅发生在模型训练阶段，不会出现在推理阶段。
  • A. 对
  • B. 错
  解析：提示注入攻击主要发生在模型推理阶段，攻击者通过构造恶意提示词诱导模型输出非预期内容。
• 第 6 题 判断题
  生成式人工智能系统在训练数据中包含个人敏感信息且未进行有效脱敏，是导致隐私泄露风险的重要成因之一。
  • A. 对
  • B. 错
  解析：训练数据中的个人敏感信息若未脱敏，模型可能记忆并输出相关内容，从而造成隐私泄露。
• 第 7 题 多选题
  下列选项中，属于生成式人工智能系统主要安全风险的有（ ）。
  • A. 提示注入攻击
  • B. 数据投毒攻击
  • C. 模型幻觉
  • D. 深度伪造滥用
  • E. 显卡驱动版本过低
  解析：提示注入、数据投毒、模型幻觉、深度伪造滥用均属于生成式人工智能主要安全风险；显卡驱动版本过低属于运维问题。
• 第 8 题 多选题
  生成式人工智能安全与隐私保护中，为降低隐私泄露风险，可采取的有效措施包括（ ）。
  • A. 训练数据匿名化处理
  • B. 差分隐私训练
  • C. 严格的访问控制与审计
  • D. 将用户对话日志无限期明文存储
  • E. 模型参数完全公开
  解析：训练数据匿名化、差分隐私训练和严格的访问控制与审计均能降低隐私泄露风险；无限期明文存储日志和完全公开模型参数会加剧风险。