生成式人工智能系统应用员四级中级工 详细题库

生成式人工智能安全与隐私保护相关知识 题目预览

• 第 1 题 单选题
  在生成式人工智能系统中，攻击者通过精心设计的输入诱导模型输出敏感信息或执行违规操作，这种安全风险被称为（ ）。
  • A. 数据投毒攻击
  • B. 模型逆向攻击
  • C. 提示注入攻击
  • D. 对抗样本攻击
  解析：提示注入攻击指攻击者通过构造特定提示词，绕过模型的安全限制，导致模型泄露隐私或生成有害内容，是生成式AI独有的主要安全风险。
• 第 2 题 单选题
  生成式人工智能模型在训练数据中无意学习并记忆了个人身份信息，在推理时可能直接输出这些信息，由此引发的风险属于（ ）。
  • A. 模型过拟合风险
  • B. 隐私泄露风险
  • C. 偏见放大风险
  • D. 版权侵权风险
  解析：模型记忆训练数据中的隐私信息并在生成时输出，直接导致用户或第三方的隐私泄露，属于隐私保护范畴的主要风险。
• 第 3 题 单选题
  攻击者通过多次查询生成式AI模型并分析其输出，逐步推断出模型内部参数或训练数据分布的攻击方法，称为（ ）。
  • A. 模型窃取攻击
  • B. 提示注入攻击
  • C. 数据投毒攻击
  • D. 对抗扰动攻击
  解析：模型窃取攻击通过反复查询API获取输出，利用输出规律重建近似模型或提取训练数据特征，严重威胁模型知识产权和训练数据保密性。
• 第 4 题 单选题
  生成式人工智能在生成内容时，由于训练数据中存在不平衡或偏见，导致模型对特定群体产生系统性歧视，这种安全风险称为（ ）。
  • A. 幻觉风险
  • B. 偏见与歧视风险
  • C. 安全对齐失败风险
  • D. 数据中毒风险
  解析：训练数据中的社会偏见被模型学习并在生成内容中放大，造成对种族、性别等群体的不公平对待，属于伦理安全中的主要风险。
• 第 5 题 判断题
  生成式人工智能的幻觉风险是指模型生成看似合理但实际错误或虚构的信息，可能引发误导或决策失误。
  • A. 对
  • B. 错
  解析：幻觉是生成式AI常见问题，模型因缺乏真实理解而编造内容，在医疗、法律等领域可能造成严重安全后果。
• 第 6 题 判断题
  生成式人工智能系统的安全风险仅来自模型本身，与外部用户输入无关。
  • A. 对
  • B. 错
  解析：安全风险既包括模型内部的漏洞（如偏见、幻觉），也包括外部攻击（如提示注入、模型窃取），用户输入是风险触发的重要环节。
• 第 7 题 多选题
  在生成式人工智能系统中，以下哪些属于常见的主要安全风险？（ ）
  • A. 数据投毒攻击
  • B. 深度伪造内容生成
  • C. 模型对抗鲁棒性增强
  • D. 隐私数据泄露
  • E. 拒绝服务攻击
  解析：数据投毒攻击污染训练数据导致模型行为异常，深度伪造用于生成虚假视频/音频进行诈骗或诽谤，隐私数据泄露是训练数据记忆引起的风险。C项是防御技术而非风险，E项虽存在但非生成式AI典型特有风险。
• 第 8 题 多选题
  生成式人工智能可能引发的安全风险包括对（ ）的威胁。
  • A. 数据机密性
  • B. 模型完整性
  • C. 输出真实性
  • D. 系统可用性
  • E. 用户知情权
  解析：数据机密性受隐私泄露威胁，模型完整性受数据投毒或模型窃取威胁，输出真实性受幻觉或深度伪造威胁，用户知情权受偏见或欺骗性内容威胁。系统可用性（D）虽受影响但并非生成式AI特有主要风险，且通常更关注内容层面。