Deep learning 验证损失高于第一个历元的训练损失

Deep learning 验证损失高于第一个历元的训练损失,deep-learning,fast-ai,Deep Learning,Fast Ai,从我所了解到的,当验证损失>培训损失时,存在过度拟合。然而,我从第一个时代得到这个 见下文: 我正在使用一个表格学习器(来自FastAI v2),它有大约72个输入 我有360K个不均匀分布的病例,其中大多数是cat1,然后是cat2,等等。我们有大约20K的cat6。我对所有训练数据进行了上采样,使所有类别都得到了平等的表示。验证集是训练集的2%。 我试着降低层数。这使得训练损失稍微接近验证损失,但从第一个历元开始,验证损失始终高于训练损失 对此有何解释 使用的代码: coord_label

从我所了解到的,当验证损失>培训损失时,存在过度拟合。然而,我从第一个时代得到这个

见下文:

我正在使用一个表格学习器(来自FastAI v2),它有大约72个输入

我有360K个不均匀分布的病例,其中大多数是cat1,然后是cat2,等等。我们有大约20K的cat6。我对所有训练数据进行了上采样,使所有类别都得到了平等的表示。验证集是训练集的2%。 我试着降低层数。这使得训练损失稍微接近验证损失,但从第一个历元开始,验证损失始终高于训练损失

对此有何解释

使用的代码:

coord_labels, semantic_labels = [], []
for i in range(18):
    coord_labels += [f'x{i+1}', f'y{i+1}', f'conf{i+1}']
    semantic_labels += [f'sem{i+1}']
    
dls = TabularDataLoaders.from_csv(
    '/content/total_training.csv', 
    y_names='corrected_person_position_type_id',
    cont_names = coord_labels,
    cat_names = semantic_labels,
    procs = [Categorify, Normalize],
    valid_idx = valid_idx,
    bs=2048
)
learn = tabular_learner(dls, metrics=accuracy)
learn.fit_one_cycle(10)

您能否在表中添加验证精度和一些代码作为参考?@ZabirAlNazi添加了代码。我的印象是,fastai Tablear learner显示的准确度就是验证准确度。如果不是,你知道如何添加这个吗?