生成式人工智能系统应用员四级中级工 详细题库

文本生成的效率和性能评估指标 题目预览

• 第 1 题 单选题
  在文本生成系统的时效指标中，用于衡量从用户输入到系统输出第一个字符所用时间的指标是（ ）。
  • A. 首字延迟
  • B. 吞吐量
  • C. 平均生成时间
  • D. 响应时间
  解析：首字延迟（TTFT）是指从输入到生成第一个token的时间。
• 第 2 题 单选题
  在评价文本生成模型性能时，通常使用（ ）来度量模型每秒能够生成的文本长度。
  • A. 延迟
  • B. 吞吐量（Tokens/s）
  • C. 内存占用
  • D. 模型参数量
  解析：吞吐量通常以每秒生成的token数表示。
• 第 3 题 单选题
  对于实时对话系统，最关键的文本生成时效指标是（ ），因为它直接影响用户体验。
  • A. 总生成时间
  • B. 吞吐量
  • C. 首字延迟
  • D. 模型参数量
  解析：实时对话中用户期望快速响应，首字延迟直接影响第一印象。
• 第 4 题 单选题
  当多个用户同时请求文本生成服务时，系统每秒钟能处理的请求数量称为（ ）。
  • A. 生成速率
  • B. 响应时间
  • C. 并发度
  • D. 吞吐量（QPS）
  解析：吞吐量中的QPS（Queries Per Second）衡量系统处理请求的能力。
• 第 5 题 判断题
  文本生成系统的首字延迟只与模型推理速度有关，与输入长度无关。
  • A. 对
  • B. 错
  解析：首字延迟受输入长度影响，因为输入需要先进行编码。
• 第 6 题 判断题
  在文本生成任务中，提高吞吐量通常可以通过增加批处理大小来实现。
  • A. 对
  • B. 错
  解析：增大批处理可以并行处理多个请求，从而提高吞吐量。
• 第 7 题 多选题
  以下属于文本生成时效指标的有（ ）。
  • A. 首字延迟
  • B. 模型参数量
  • C. 吞吐量
  • D. 响应时间
  • E. 训练时间
  解析：首字延迟、吞吐量、响应时间都是常见时效指标，模型参数量和训练时间不属于时效指标。
• 第 8 题 多选题
  在评估文本生成系统的性能时，影响生成时间的因素包括（ ）。
  • A. 模型结构复杂度
  • B. 输入文本长度
  • C. 输出文本长度
  • D. 显卡显存大小
  • E. 训练数据大小
  解析：模型结构复杂度影响推理速度，输入输出长度直接影响生成时间，显存大小影响批处理能力，训练数据大小不影响推理时的生成时间。