生成式人工智能系统应用员四级中级工 详细题库

生成式语言模型推理参数优化策略 题目预览

• 第 1 题 单选题
  在生成式语言模型推理中，温度参数较低时，会导致（ ）。
  • A. 输出多样性增加
  • B. 输出更加随机
  • C. 输出更加确定
  • D. 输出长度变长
  解析：温度参数越低，softmax概率分布越尖锐，高概率词被选中的概率更大，因此输出更加确定。
• 第 2 题 单选题
  当top_k参数设置为1时，生成式语言模型在每一步推理中（ ）。
  • A. 从概率最高的k个词中随机选择
  • B. 总是选择概率最高的词
  • C. 从全部词中按概率采样
  • D. 忽略概率低的词
  解析：top_k=1表示只保留概率最高的一个词，等价于贪婪搜索，每一步都选择概率最大的词。
• 第 3 题 单选题
  若将top_p参数设为0.9，则模型在每一步推理时（ ）。
  • A. 只从概率之和为0.9的候选词中采样
  • B. 从概率最高的9个词中采样
  • C. 从全部词中按概率裁减后采样
  • D. 忽略概率低于0.9的词
  解析：top_p（核采样）从累计概率达到阈值p的最小候选词集合中采样，p=0.9时从概率之和达到0.9的词中采样。
• 第 4 题 单选题
  若设置存在惩罚（presence_penalty）为正值，则模型会更倾向于（ ）。
  • A. 重复使用已出现的词汇
  • B. 避免使用未出现过的词汇
  • C. 生成更长的序列
  • D. 鼓励使用新词汇
  解析：存在惩罚正值会降低已出现词汇的生成概率，从而鼓励模型引入新词汇，提高多样性。
• 第 5 题 判断题
  在生成式语言模型推理时，将重复惩罚参数设置为0.9，可以有效减少生成文本中词汇的重复出现。
  • A. 对
  • B. 错
  解析：重复惩罚参数大于1时会降低已出现词的生成概率从而减少重复，小于1时会增加重复概率，0.9小于1，反而会加剧重复。
• 第 6 题 判断题
  当生成式语言模型的温度参数趋近于0时，模型输出的文本几乎完全确定，每次生成的文本高度相似。
  • A. 对
  • B. 错
  解析：温度趋近0使softmax输出近似one-hot，模型总是选择概率最大的词，因此输出几乎确定，重复生成结果高度一致。
• 第 7 题 多选题
  在生成式语言模型推理参数调优中，以下哪些参数能够直接控制生成文本的随机性和多样性（ ）。
  • A. 温度（temperature）
  • B. top_k采样
  • C. top_p采样
  • D. 重复惩罚（repetition_penalty）
  • E. 最大生成长度（max_length）
  解析：温度、top_k和top_p直接调整采样随机性，影响多样性；重复惩罚主要抑制重复，间接影响但不直接控制随机性；最大生成长度仅控制句长。
• 第 8 题 多选题
  关于推理基础参数调优，以下说法中正确的是（ ）。
  • A. 温度参数越小，输出越确定
  • B. top_k参数越大，生成文本的多样性越高
  • C. top_p参数越小，生成文本的多样性越低
  • D. 重复惩罚参数大于1会降低已出现词的生成概率
  • E. 存在惩罚参数为负值时，会鼓励模型使用新词汇
  解析：A温度小分布尖，输出确定；B top_k大候选词多，多样性高；C top_p小保留词少，多样性低；D重复惩罚>1惩罚已出现词；E存在惩罚为负会鼓励重复已出现词，而非新词汇，故E错误。