生成式人工智能系统应用员二级技师 详细题库

生成式人工智能热点问题和前沿研究相关知识 题目预览

• 第 1 题 单选题
  生成式人工智能模型在回答问题时，生成的内容与事实不符或缺乏可靠依据，但表达方式却非常流畅自然，这种现象称为（ ）。
  • A. 幻觉
  • B. 过拟合
  • C. 梯度爆炸
  • D. 注意力漂移
  解析：幻觉是指模型生成看似合理但实际错误或无依据的内容，是生成式人工智能业务应用中需要重点防控的核心问题。
• 第 2 题 单选题
  生成式大模型在参数规模增大到一定阈值后，突然表现出小参数模型不具备的复杂任务处理能力，这种现象被称为（ ）。
  • A. 模型蒸馏
  • B. 涌现能力
  • C. 参数平均
  • D. 因果推断
  解析：涌现能力指模型规模达到临界点后出现的能力跃升，是当前大模型前沿研究中的热点讨论对象。
• 第 3 题 单选题
  在生成式人工智能系统应用中，为缓解开放域问答中的事实性错误，常将外部知识库检索与文本生成过程相结合，这种技术称为（ ）。
  • A. 提示工程
  • B. 参数高效微调
  • C. 检索增强生成
  • D. 模型量化
  解析：检索增强生成通过先从知识库中检索相关内容，再让模型基于检索结果生成答案，能有效提升事实性和知识时效性。
• 第 4 题 单选题
  在评估生成式人工智能系统输出时，能够克服字面重合不足并衡量生成文本与参考答案语义一致程度的自动评价指标是（ ）。
  • A. 字面重合率
  • B. 词频逆文档频率
  • C. 困惑度
  • D. 语义相似度
  解析：语义相似度利用深层语义表示计算文本间的语义接近程度，比单纯统计字面重合更适合评价生成式模型的输出质量。
• 第 5 题 判断题
  对生成式人工智能系统进行红队测试，是发现其安全漏洞和有害行为的一种常见方法。
  • A. 对
  • B. 错
  解析：红队测试通过模拟对抗性输入和攻击场景，能够系统暴露模型在安全、偏见、鲁棒性等方面的不足。
• 第 6 题 判断题
  如果一个生成式模型在训练数据上表现很好，就表明它对所有真实世界输入都具备可靠的泛化能力。
  • A. 对
  • B. 错
  解析：训练集上的良好表现可能是过拟合或记忆所致，不能保证对分布外输入和真实复杂场景的可靠泛化，这也是当前关注鲁棒性的原因。
• 第 7 题 多选题
  当前生成式人工智能研究的核心热点问题包括（ ）。
  • A. 多模态融合生成
  • B. 模型幻觉抑制与评测
  • C. 价值观对齐与安全
  • D. 关系型数据库范式设计
  • E. 端侧小模型部署与推理优化
  解析：多模态融合、幻觉抑制、价值观对齐与端侧部署都是生成式人工智能的热点方向，关系型数据库范式设计不属于该领域的核心热点问题。
• 第 8 题 多选题
  在生成式人工智能应用系统中，下列做法有助于降低模型幻觉风险的有（ ）。
  • A. 引入外部知识库进行检索增强
  • B. 在提示词中要求模型依据提供的资料回答
  • C. 增大模型采样时的随机性
  • D. 取消上下文长度限制
  • E. 让模型在不确定时明确表达无法回答
  解析：检索增强、提示词约束和拒答机制都能减少无依据生成；增大随机性会提高输出多样性但不会降低幻觉，取消上下文长度限制同样不能直接缓解幻觉。