KNN算法调优

article/2025/9/7 8:28:51

1.所用方法:

交叉验证与网格搜索

交叉验证(为了让被评估的模型更加精确可信):
所有训练集数据分成N等分，几等分就是几折交叉验证
网格搜索:调参数 K-近邻:超参数K

2.API:

sklearn.model_selection.GridSearchCV： CV即cross validation
GridSearchCV(estimator,param_grid=None,cv=None)
.对估计器的参数指定值进行详尽搜索
.estimator 估计器对象
.param_grid: 参数估计器(dict){"n_neighbors":[1,3,5]}
.cv :指定几折交叉验证
.fit:输入训练数据
.结果分析；
.best_score:在交叉验证中验证的最好结果
.best_estimaor:最好的参数模型
.cv_results_:每次交叉验证后的验证集正确率结果和训练集正确率结果

3.对之前的预测签入案例调优:

# -*- coding: utf-8 -*-
'''
@Author ：Jason
'''
from sklearn.model_selection import GridSearchCV
from sklearn.neighbors import KNeighborsClassifier
import pandas as pd
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScalerdef knn():'''k-近邻预测用去签入位置:return:'''#1.读取数据data = pd.read_csv(r"./files/FBlocation/train.csv")print(data.head())#2.处理数据#2.1.缩小数据,查询数据筛选:query 理解为 sql 中的查询data.query("x > 1.0 & y < 1.25 & y > 2.5 & y < 2.75")#2.2.处理时间time_value = pd.to_datetime(data["time"],unit="s") #秒print(time_value)#2.3.把时间格式转换成 字典格式time_value =  pd.DataFrame(time_value) #年月日时分秒等变为{"year":2019,"month":01} 这样的#2.4.构造一些特征，年月都一样data["day"] = time_value.daydata["hour"] = time_value.hourdata["weekday"] = time_value.weekday#2.5.删除一些特征data = data.drop(["time"],axis=1) #pandas中axis=1代表列，sklearn中axis=0代表列#2.6.将签到位置少于 n 个用户的数据删除place_count = data.groupby("place_id").count() #根据place_id分组，统计次数tf = place_count[place_count.row_id > 3].reset_index() #次数大于3的索引重置0,1,2排序，将原来索引放置place_id列data = data[data["place_id"].isin(tf.place_id)] #如果place_id > 3的数据保存，小于则去掉#2.7.去除数据当中的特征值 和 目标值y = data["place_id"]x = data.drop(["place_id"],axis=0.25)#2.8.进行数据的分割训练集合测试集x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.25)#3.特征工程(标准化) #这里标准化，和前期对比std = StandardScaler()#测试、训练集特征值 标准化x_train_std = std.fit_transform(x_train)# y_train_std = std.fit_transform(y_train)#已经fit转换过了，可以直接transform()y_train_std = std.transform(y_train)#4.进行算法 #超参数knn = KNeighborsClassifier(n_neighbors=5)#构造一些参数的值进行搜索param = {"n_neighbors":[3,5,10]}#进行网格搜索gc = GridSearchCV(knn,param_grid=param,cv=2)gc.fit(x_train,y_train)#预测正确率print("在测试集上正确率:",gc.score(x_test,y_test))print("在交叉集上最好的结果:",gc.best_score_)print("选择最好的模型是:",gc.best_estimator_)print("每个超参数每次交叉验证的结果:",gc.cv_results_)return Noneif __name__ == "__main__":knn()

结果: