Reference: https://cloud.tencent.com/developer/article/1695022
深度学习中使用的batchsize, step(iteration), epoch 含义以及其关系
发布于 2020-09-10 11:16:00
1.6K0
举报
| 变量 | 含义 |
|---|---|
| epoch | 一个epoch表示所有训练样本运算学习一遍 |
| iteration/step | 表示每运行一个iteration/step，更新一次参数权重，即进行一次学习，每一次更新参数需要batch size个样本进行运算学习，根据运算结果调整更新一次参数。 |
| batch size | 1次迭代所使用的样本量 |
其关系为：
iteration=exampleNums∗epoch/batchsize
举例： 假设有20000个样本，batch size 为200，epoch为1， 则
iteration=20000∗1200=100