Warning: file_get_contents(/data/phpspider/zhask/data//catemap/2/python/306.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Python Pytork:使用torchvision.datasets.ImageFolder和DataLoader进行测试_Python_Pytorch - Fatal编程技术网

Python Pytork:使用torchvision.datasets.ImageFolder和DataLoader进行测试

Python Pytork:使用torchvision.datasets.ImageFolder和DataLoader进行测试,python,pytorch,Python,Pytorch,我是一个新手,想让这个PyTorch CNN和我一起工作。由于测试图像没有目标,我手动分类了一些测试图像,并将该类放入文件名中,以便能够进行测试(可能应该只使用一些火车图像) 我使用torchvision.datasets.ImageFolder类加载列车并测试图像。培训似乎奏效了 但是我需要做什么才能使测试程序正常工作呢?我不知道如何通过test_x和test_y将我的test_数据_加载程序与底部的测试循环连接起来 代码基于此,类似这样的代码在创建加载程序后立即使用。但我未能为我的数据集重写

我是一个新手,想让这个PyTorch CNN和我一起工作。由于测试图像没有目标,我手动分类了一些测试图像,并将该类放入文件名中,以便能够进行测试(可能应该只使用一些火车图像)

我使用torchvision.datasets.ImageFolder类加载列车并测试图像。培训似乎奏效了

但是我需要做什么才能使测试程序正常工作呢?我不知道如何通过test_x和test_y将我的test_数据_加载程序与底部的测试循环连接起来

代码基于此,类似这样的代码在创建加载程序后立即使用。但我未能为我的数据集重写它:

test_x = Variable(torch.unsqueeze(test_data.test_data, dim=1), volatile=True).type(torch.FloatTensor)[:2000]/255.   # shape from (2000, 28, 28) to (2000, 1, 28, 28), value in range(0,1)
test_y = test_data.test_labels[:2000]
守则:

import os
import numpy as np
import torch
import torch.nn as nn
import torch.nn.functional as F
from torch.autograd import Variable
import torch.utils.data as data
import torchvision
from torchvision import transforms

EPOCHS = 2
BATCH_SIZE = 10
LEARNING_RATE = 0.003
TRAIN_DATA_PATH = "./train_cl/"
TEST_DATA_PATH = "./test_named_cl/"
TRANSFORM_IMG = transforms.Compose([
    transforms.Resize(256),
    transforms.CenterCrop(256),
    transforms.ToTensor(),
    transforms.Normalize(mean=[0.485, 0.456, 0.406],
                         std=[0.229, 0.224, 0.225] )
    ])

train_data = torchvision.datasets.ImageFolder(root=TRAIN_DATA_PATH, transform=TRANSFORM_IMG)
train_data_loader = data.DataLoader(train_data, batch_size=BATCH_SIZE, shuffle=True,  num_workers=4)
test_data = torchvision.datasets.ImageFolder(root=TEST_DATA_PATH, transform=TRANSFORM_IMG)
test_data_loader  = data.DataLoader(test_data, batch_size=BATCH_SIZE, shuffle=True, num_workers=4) 

class CNN(nn.Module):
    # omitted...

if __name__ == '__main__':

    print("Number of train samples: ", len(train_data))
    print("Number of test samples: ", len(test_data))
    print("Detected Classes are: ", train_data.class_to_idx) # classes are detected by folder structure

    model = CNN()    
    optimizer = torch.optim.Adam(model.parameters(), lr=LEARNING_RATE)
    loss_func = nn.CrossEntropyLoss()    

    # Training and Testing
    for epoch in range(EPOCHS):        
        for step, (x, y) in enumerate(train_data_loader):
            b_x = Variable(x)   # batch x (image)
            b_y = Variable(y)   # batch y (target)
            output = model(b_x)[0]          
            loss = loss_func(output, b_y)   
            optimizer.zero_grad()           
            loss.backward()                 
            optimizer.step()

            # Test -> this is where I have no clue
            if step % 50 == 0:
                test_x = Variable(test_data_loader)
                test_output, last_layer = model(test_x)
                pred_y = torch.max(test_output, 1)[1].data.squeeze()
                accuracy = sum(pred_y == test_y) / float(test_y.size(0))
                print('Epoch: ', epoch, '| train loss: %.4f' % loss.data[0], '| test accuracy: %.2f' % accuracy)

从Kaggle和您的代码中查看数据,您的数据加载(包括训练集和测试集)似乎存在问题。首先,对于默认的PyTorch
ImageFolder
,数据应该位于每个标签的不同文件夹中,以便正确加载。在您的例子中,由于所有的培训数据都在同一个文件夹中,PyTorch将其作为一个类加载,因此学习似乎是有效的。您可以通过使用诸如-
train/dog
、-
train/cat
、-
test/dog
、-
test/cat
这样的文件夹结构来纠正此问题,然后将列车和测试文件夹分别传递给train和test
ImageFolder
。培训代码看起来不错,只要更改文件夹结构,您就应该很好了。看看官方文件,其中有一个类似的例子

根据@Monster的评论,这里是我的ImageFolder文件夹结构

这就是我加载数据集的方式:

    train_dataset=datasets.ImageFolder(root="./root/",transform=train_transforms)

如果我在一个文件夹中有所有图像,并且我希望通过我拥有的CSV文件设置这些类,该怎么办?我该怎么办?@Royi我认为还没有任何直接的方法(据我所知)。但是您可以扩展dataset类并执行此操作。下面是一位官员的例子。你可以修改它,删除多余的东西,它应该可以正常工作。如果对你有效,请告诉我。