Python 基于线性SVC的图像分类

Python 基于线性SVC的图像分类,python,numpy,machine-learning,scikit-learn,svm,Python,Numpy,Machine Learning,Scikit Learn,Svm,我试图学习线性SVC在SVM中的工作原理,并尝试通过使用不同参数进行训练和测试来复制一个简单的实验。问题是,我似乎无法理解如何准确地使用我的数据来训练和测试线性SVC算法。基本上,我想做的是使用线性SVC的图像识别 我有5帧来自5个不同的人,每个图像有22个特征。我的目标是简单地获得图像的训练率,我的问题是我获得了100%的训练率,当我期望大约80%左右时,我想知道我如何才能获得正确的识别率,那么 import sklearn from sklearn.svm import SVC from s

我试图学习线性SVC在SVM中的工作原理,并尝试通过使用不同参数进行训练和测试来复制一个简单的实验。问题是,我似乎无法理解如何准确地使用我的数据来训练和测试线性SVC算法。基本上,我想做的是使用线性SVC的图像识别

我有5帧来自5个不同的人,每个图像有22个特征。我的目标是简单地获得图像的训练率,我的问题是我获得了100%的训练率,当我期望大约80%左右时,我想知道我如何才能获得正确的识别率,那么

import sklearn
from sklearn.svm import SVC
from sklearn.model_selection import train_test_split
from sklearn import metrics

dataset = np.asarray(data)
target = np.asarray([1]*5 + [2]*5 + [3]*5 + [4]*5 + [5]*5)
svc_1 = SVC(kernel='linear')




X_train, X_test, y_train, y_test = train_test_split(
        dataset, target, test_size=0.35, random_state=0)


def train_and_evaluate(clf, X_train, X_test, y_train, y_test):
    
    clf.fit(X_train, y_train)
    print ("Accuracy on training set:")
    print (clf.score(X_train, y_train))
    print ("Accuracy on testing set:")
    print (clf.score(X_test, y_test))
    
    y_pred = clf.predict(X_test)
    
    print ("Classification Report:")
    print (metrics.classification_report(y_test, y_pred))
    print ("Confusion Matrix:")
    print (metrics.confusion_matrix(y_test, y_pred))


train_and_evaluate(svc_1, X_train, X_test, y_train, y_test)
这是我的代码,为了保存可视化效果,我将25x22矩阵上传到pastebin:

这是我的输出:

Accuracy on training set:
1.0
Accuracy on testing set:
1.0
Classification Report:
              precision    recall  f1-score   support

           1       1.00      1.00      1.00         1
           2       1.00      1.00      1.00         1
           3       1.00      1.00      1.00         1
           4       1.00      1.00      1.00         3
           5       1.00      1.00      1.00         3

    accuracy                           1.00         9
   macro avg       1.00      1.00      1.00         9
weighted avg       1.00      1.00      1.00         9

简言之,我想做的是在减少数据集中的行数或列数的同时降低速率,但我一直得到100%

事实是,您的数据集在这5个类之间确实很好地分离

线索#1-目标洗牌

洗牌目标导致精度下降。尝试在目标定义之后添加:

random.shuffle(target)  # Requires `import shuffle`
线索#2-PCA

我曾经通过将数据简化为两个功能来可视化您的数据:

from sklearn.decomposition import PCA
import matplotlib.pyplot as plt

pca = PCA(n_components=2)
pca_res = pca.fit_transform(data)
plt.scatter(pca_res[:, 0], pca_res[:, 1], color=list(map(' rgbyc'.__getitem__, target)))
结果:

似乎很明显,这些类别之间的差异很好——组内差异比组间差异小得多。显然,SVC在检测测试集的正确类时没有问题,即使样本量很小

编辑

看来PCA甚至没有必要。单个特征(例如第二个特征)产生100%的分离。请尝试使用以下代码:

dataset = np.asarray(data)[:, 1:2]
通过可视化:

import seaborn as sns
sns.boxplot(x=target, y=dataset[:, 1])  # Original dataset used here
结果: