生成式人工智能系统应用员四级中级工 详细题库

《网络安全技术 生成式人工智能服务安全基本要求》相关知识。 题目预览

• 第 1 题 单选题
  生成式人工智能服务提供者应（ ）对生成内容进行安全检测。
  • A. 无需
  • B. 仅对高风险内容
  • C. 随时
  • D. 定期
  解析：根据安全基本要求，服务提供者应定期对生成内容进行安全检测，确保内容合规。
• 第 2 题 单选题
  根据《网络安全技术 生成式人工智能服务安全基本要求》，生成式人工智能服务提供者在训练数据中应（ ）。
  • A. 避免使用包含个人信息的未授权数据
  • B. 必须使用公开数据
  • C. 可以任意使用用户上传的数据
  • D. 无需对训练数据进行过滤
  解析：训练数据应合法合规，避免使用未授权的个人信息数据，以保护用户隐私。
• 第 3 题 单选题
  生成式人工智能服务提供者应建立（ ），对生成内容进行安全评估。
  • A. 用户反馈机制
  • B. 内容安全管理制度
  • C. 数据备份机制
  • D. 模型更新机制
  解析：要求建立内容安全管理制度，确保生成内容不违反法律法规和社会主义核心价值观。
• 第 4 题 单选题
  在生成式人工智能服务中，对于可能产生歧视性、偏见性内容的风险，服务提供者应采取（ ）。
  • A. 事后删除措施
  • B. 仅依靠用户举报
  • C. 事前预防与持续监测相结合的措施
  • D. 忽略此类风险
  解析：要求采取事前预防和持续监测相结合的措施，减少偏见和歧视，保障公平性。
• 第 5 题 判断题
  生成式人工智能服务提供者可以将其服务用于生成虚假新闻，只要不侵犯他人权益。
  • A. 对
  • B. 错
  解析：生成虚假新闻本身违反法律法规，即使不侵犯具体他人权益，也属于违法内容，服务提供者应严格禁止。
• 第 6 题 判断题
  根据《网络安全技术 生成式人工智能服务安全基本要求》，服务提供者需要对训练数据中的敏感信息进行脱敏处理。
  • A. 对
  • B. 错
  解析：为保护个人信息安全，服务提供者应对训练数据中的敏感信息进行脱敏处理，防止泄露。
• 第 7 题 多选题
  根据《网络安全技术 生成式人工智能服务安全基本要求》，生成式人工智能服务提供者在提供服务过程中，应遵守以下哪些义务？（ ）
  • A. 对生成内容进行标识
  • B. 确保训练数据不包含违法信息
  • C. 允许用户随意修改生成内容
  • D. 建立用户个人信息保护机制
  • E. 定期向用户推送广告
  解析：A、B、D均为安全基本要求；C允许随意修改可能导致安全风险，E推送广告不属于基本要求。
• 第 8 题 多选题
  生成式人工智能服务安全基本要求中，关于模型安全，以下哪些措施是正确的？（ ）
  • A. 对模型进行对抗性训练
  • B. 确保模型输出不包含歧视性内容
  • C. 允许模型自主学习未经审核的数据
  • D. 对模型进行定期安全评估
  • E. 公开模型全部源代码
  解析：对抗性训练可增强鲁棒性，确保输出无歧视，定期评估均为必要措施；C不允许未经审核数据，E不要求公开全部源代码。