生成式人工智能系统应用员三级高级工 详细题库
下载APP练习《网络安全技术 生成式人工智能服务安全基本要求》相关知识。 题目预览
-
第 1 题 单选题生成式人工智能服务提供者应当对训练数据中涉及( )的内容进行过滤和剔除,以防止生成违法信息。
- A. 个人隐私
- B. 商业秘密
- C. 违法和不良信息
- D. 知识产权
解析:《网络安全技术 生成式人工智能服务安全基本要求》明确规定,服务提供者必须对训练数据中的违法和不良信息进行过滤,确保数据来源合法合规。 -
第 2 题 单选题生成式人工智能服务提供者应当建立( )机制,对生成内容进行显著标识,以便用户区分。
- A. 人工审核
- B. 自动化过滤
- C. 内容标识
- D. 用户举报
解析:根据相关安全要求,服务提供者需对生成内容添加不可篡改的标识,如数字水印或文本标签,以提高透明度。 -
第 3 题 单选题生成式人工智能服务提供者应当在服务上线前完成( ),并通过安全评估后方可提供服务。
- A. 安全自评估
- B. 数据备份
- C. 用户注册
- D. 内容编号
解析:安全基本要求规定,服务提供者需进行安全自评估,重点检查模型鲁棒性、数据合规性和内容安全,评估通过后备案。 -
第 4 题 单选题生成式人工智能服务提供者处理用户输入数据时,不得( )用户的原始输入内容,除非获得明确授权。
- A. 存储
- B. 用于模型训练
- C. 加密
- D. 删除
解析:标准要求服务提供者不得将用户输入数据用于模型训练或优化,除非用户知情同意,以保护用户隐私和数据安全。 -
第 5 题 判断题生成式人工智能服务提供者可以对生成内容不进行任何审核,直接面向用户输出。
- A. 对
- B. 错
解析:安全基本要求强制规定服务提供者必须对生成内容进行实时或事后审核,建立过滤机制,防止输出违法不良信息。 -
第 6 题 判断题生成式人工智能服务提供者应当定期对模型进行安全评测,包括对抗性测试和偏见检测。
- A. 对
- B. 错
解析:根据标准,服务提供者需定期开展模型安全评测,评估模型在对抗攻击、偏见歧视等方面的脆弱性,并及时修复。 -
第 7 题 多选题根据《网络安全技术 生成式人工智能服务安全基本要求》,服务提供者应当采取哪些措施保障数据安全?
- A. 对训练数据进行脱敏处理
- B. 建立数据访问权限控制
- C. 对数据标注人员进行安全培训
- D. 允许第三方随意访问训练数据
- E. 对数据来源进行溯源记录
解析:标准要求数据安全措施包括脱敏、权限控制、人员培训和溯源等,D选项“允许第三方随意访问”违反安全原则,故不选。 -
第 8 题 多选题关于生成式人工智能服务的内容安全要求,以下哪些做法符合规定?
- A. 建立内容关键词过滤库
- B. 对生成内容进行人工抽检
- C. 允许用户自定义内容安全策略
- D. 删除所有用户反馈的违规内容
- E. 对生成内容进行多样化检测(如文本、图像)
解析:安全基本要求规定服务提供者应建立关键词过滤、人工抽检、用户反馈处理和多种模态检测机制;C选项“允许用户自定义安全策略”可能导致安全漏洞,不符合统一管控要求。
余下详情题库请下载 APP 或扫码小程序查看全部题目与智能刷题。