Python 如何使用scikit进行预测';有什么惊喜吗?

Python 如何使用scikit进行预测';有什么惊喜吗?,python,machine-learning,scikit-learn,recommendation-engine,collaborative-filtering,Python,Machine Learning,Scikit Learn,Recommendation Engine,Collaborative Filtering,我在理解惊喜的工作流程时遇到了一些困难。我有一个用于培训的文件(我试图将其分为培训和验证),还有一个用于测试数据的文件。我很难理解惊喜数据集和火车组之间的区别 # Import data data_dir = 'DIRECTORY_NAME' reader = Reader(rating_scale=(1, 5)) # Create pandas dataframes train_valid_df = pd.read_csv(os.path.join(data_dir, 'TRAINING_F

我在理解惊喜的工作流程时遇到了一些困难。我有一个用于培训的文件(我试图将其分为培训和验证),还有一个用于测试数据的文件。我很难理解惊喜数据集和火车组之间的区别

# Import data
data_dir = 'DIRECTORY_NAME'
reader = Reader(rating_scale=(1, 5))

# Create pandas dataframes
train_valid_df = pd.read_csv(os.path.join(data_dir, 'TRAINING_FILENAME.csv'))
train_df, valid_df = train_test_split(train_valid_df, test_size=0.2)
test_df = pd.read_csv(os.path.join(data_dir, 'TEST_FILENAME.csv'))

# Create surprise Dataset objects
train_valid_Dataset = Dataset.load_from_df(train_valid_df[['user_id', 'item_id', 'rating']], reader)
train_Dataset = Dataset.load_from_df(train_df[['user_id', 'item_id', 'rating']], reader)
valid_Dataset = Dataset.load_from_df(valid_df[['user_id', 'item_id', 'rating']], reader)
test_Dataset = Dataset.load_from_df(test_df[['user_id', 'item_id', 'rating']], reader)

# Create surprise Trainset object (and testset object?)
train_Trainset = train_data.build_full_trainset()
valid_Testset = trainset.build_anti_testset()
然后,我创建我的预测值:

algo = KNNBaseline(k=60, min_k=2, sim_options={'name': 'msd', 'user_based': True})
现在,如果我想交叉验证,我会这样做

cross_v = cross_validate(algo, all_data, measures=['mae'], cv=10, verbose=True)
哪个训练模型(?),但如果我想使用固定的验证集,我会怎么做?这个:

algo.fit(train_Trainset)
这样做之后,我试图得到一些预测:

predictions = algo.test(valid_Testset)
print(predictions[0])
结果就是这样 但当我尝试使用项目和用户id号进行预测时,它表示这样的预测是不可能的:

print(algo.predict('13', '194'))
print(algo.predict('260', '338'))
print(algo.predict('924', '559'))
屈服:

第一个用户/项目对来自训练集,第二个来自验证集,第三个来自训练集。我不知道为什么会出现这种情况,我发现文档有时会令人困惑。类似地,许多在线教程似乎都是关于熊猫数据帧的培训,我会因此而出错。有人能解释一下惊喜的工作流程到底是什么样的吗?如何在测试集上进行训练和预测


谢谢

希望这有帮助,因为您有单独的训练和测试,我们创建了一些类似于您的数据:

from surprise import Dataset, KNNBaseline, Reader
import pandas as pd
import numpy as np
from surprise.model_selection import cross_validate
reader = Reader(rating_scale=(1, 5))

train_df = pd.DataFrame({'user_id':np.random.choice(['1','2','3','4'],100),
                         'item_id':np.random.choice(['101','102','103','104'],100),
                         'rating':np.random.uniform(1,5,100)})

valid_df = pd.DataFrame({'user_id':np.random.choice(['1','2','3','4'],100),
                         'item_id':np.random.choice(['101','102','103','104'],100),
                         'rating':np.random.uniform(1,5,100)})
然后,我们需要将训练数据转换为一个
惊喜.trainset
,类似于您所做的:

train_Dataset = Dataset.load_from_df(train_df[['user_id', 'item_id', 'rating']], reader)
valid_Dataset = Dataset.load_from_df(valid_df[['user_id', 'item_id', 'rating']], reader)

train_Dataset = train_Dataset.build_full_trainset()
对于拟合,您只需要train_数据集,对于交叉验证,我不确定您试图做什么,我认为这超出了预测的范围,因此我们拟合:

algo = KNNBaseline(k=60, min_k=2, sim_options={'name': 'msd', 'user_based': True})
algo.fit(train_Dataset)
要进行预测,您需要以列表或数组的形式提供输入,其形状与您的输入相同,因此,例如,如果我们要提供测试数据集,它将是:

testset = [valid_Dataset.df.loc[i].to_list() for i in range(len(valid_Dataset.df))]
algo.test(testset)[:2] 

[Prediction(uid='2', iid='103', r_ui=3.0224818872683845, est=2.8486558674146125, details={'actual_k': 25, 'was_impossible': False}),
 Prediction(uid='2', iid='103', r_ui=4.609064535195377, est=2.8486558674146125, details={'actual_k': 25, 'was_impossible': False})]
algo.test([['1','101',None]])
如果您想测试一个或两个值,它将是:

testset = [valid_Dataset.df.loc[i].to_list() for i in range(len(valid_Dataset.df))]
algo.test(testset)[:2] 

[Prediction(uid='2', iid='103', r_ui=3.0224818872683845, est=2.8486558674146125, details={'actual_k': 25, 'was_impossible': False}),
 Prediction(uid='2', iid='103', r_ui=4.609064535195377, est=2.8486558674146125, details={'actual_k': 25, 'was_impossible': False})]
algo.test([['1','101',None]])

谢谢你的指导。我有一个问题-看起来
loc
不是
valid\u Dataset.df的属性。你知道有什么问题吗?如果您能解释这一行(
testset=…
),那将非常有用。也许我可以用另一种方法创建相同的列表。谢谢如果将data.frame转换为意外数据集,它应该在
.df
下存储一个dataframe,并且基本上将每一行转换为一个列表
valid_-Dataset.df.loc[i]
将占据第一行。您也可以尝试使用
valid_-df[['user\u-id','item\u-id','rating']]
。。您需要的是提供一个列表作为inputOkay,所以为了澄清它需要一个列表列表,其中每个子列表是一行<代码>[[user1\u id,item1\u id,rating1],[user2\u id,item2\u id,rating12]
。为什么需要输入评级?是用于错误计算吗?再次感谢。是的,这就像您编写了
预测=算法预测([[user1\u id,item1\u id,rating1],…)
它应该用于误差/精度计算,因为您可以调用
accurity.rmse(prediction)
而不提供真相