生成式人工智能系统应用员一级高级技师 详细题库

《网络安全技术 生成式人工智能服务安全基本要求》相关知识。 题目预览

• 第 1 题 单选题
  根据《网络安全技术 生成式人工智能服务安全基本要求》，生成式人工智能服务提供者应对训练数据中的（ ）采取过滤或脱敏处理，以防止泄露敏感个人信息。
  • A. 通用文本数据
  • B. 含有姓名、身份证号等个人信息的样本
  • C. 公开网络爬取的语料
  • D. 多模态数据中的图像特征
  解析：该标准要求对训练数据中包含个人信息的样本进行过滤或脱敏，以保护用户隐私，B项符合。其他选项未特指敏感个人信息。
• 第 2 题 单选题
  生成式人工智能服务提供者在提供服务时，必须对生成内容进行（ ），以确保内容可追溯和识别。
  • A. 人工审核
  • B. 数字签名
  • C. 显著标识
  • D. 加密存储
  解析：根据安全基本要求，生成式AI服务应在生成内容中添加显著标识，便于用户识别内容来源。C项正确。
• 第 3 题 单选题
  在生成式人工智能服务的模型训练阶段，为防止模型产生歧视性输出，服务提供者应（ ）。
  • A. 仅使用高质量英文数据
  • B. 对训练数据进行偏差检测与平衡处理
  • C. 完全删除所有涉及性别、种族的数据
  • D. 要求用户自行标注敏感内容
  解析：标准要求对训练数据进行偏差分析并采取平衡措施，以减少算法歧视。B项符合。A、C、D均不合理或不符合要求。
• 第 4 题 单选题
  生成式人工智能服务提供者在处理用户输入时，若发现输入内容违反法律法规，应（ ）。
  • A. 立即终止服务并报警
  • B. 直接生成拒绝响应并记录日志
  • C. 自动修改用户输入后继续生成
  • D. 忽略违规内容并正常响应
  解析：安全基本要求规定，服务提供者应具备对违法输入的识别和拒绝机制，并记录相关日志以便追溯。B项正确。
• 第 5 题 判断题
  生成式人工智能服务提供者无需对训练数据中的版权内容进行合规性审查，因为模型学习属于合理使用。
  • A. 对
  • B. 错
  解析：根据安全基本要求，服务提供者应对训练数据中的版权内容进行合规性审查，避免侵权风险，不能默认属于合理使用。
• 第 6 题 判断题
  生成式人工智能服务提供者应当建立应急响应机制，在发现生成内容存在严重安全风险时及时采取措施并报告。
  • A. 对
  • B. 错
  解析：标准明确要求服务提供者建立安全事件应急响应机制，发现严重风险需立即处置并上报。
• 第 7 题 多选题
  根据《网络安全技术 生成式人工智能服务安全基本要求》，服务提供者应满足的安全要求包括（ ）。
  • A. 对训练数据来源进行合法性审核
  • B. 对生成内容进行实时人工审核
  • C. 建立用户投诉处理机制
  • D. 定期对模型进行安全评估
  • E. 允许用户无限制上传任何数据
  解析：标准要求审核训练数据合法性（A）、建立用户投诉机制（C）、定期安全评估（D）。B项“实时人工审核”不现实，通常采用技术+抽样审核；E项违反数据安全管理要求。
• 第 8 题 多选题
  生成式人工智能服务提供者在部署模型前，应评估模型可能带来的安全风险，主要包括（ ）。
  • A. 生成虚假信息风险
  • B. 模型被越狱攻击风险
  • C. 用户隐私泄露风险
  • D. 模型计算速度过慢风险
  • E. 生成内容违反公序良俗风险
  解析：安全基本要求关注内容安全、模型安全、数据安全等方面，A、B、C、E均为典型风险；D项性能问题不属于安全风险范畴。