生成式人工智能系统应用员二级技师 详细题库

模型训练硬件环境的配置知识 题目预览

• 第 1 题 判断题
  模型训练时，单卡显存容量越大，可训练的最大模型参数量就一定越大。
  • A. 对
  • B. 错
  解析：可训练的最大模型参数量还受激活值、优化器状态、梯度存储、批量大小及混合精度等内存优化策略影响，不能仅凭显存容量判断。
• 第 2 题 判断题
  在训练硬件选型时，NPU/TPU等专用芯片通常比同代通用GPU在特定低精度矩阵运算上具有更高的能效比。
  • A. 对
  • B. 错
  解析：NPU/TPU针对矩阵乘加等特定计算模式进行了专用优化，在相同功耗下通常能提供更高的低精度算力，但其通用性和生态灵活性往往弱于GPU。