将拿到的训练数据，分成训练和验证集。以下图为例：将数据分成4份，其中一份作为验证集。然后经过4次（组）的测试，每次都更换不同的验证集。即得到4组模型的结果，取平均值作为最终结果。又称4折交叉验证。
分析 之前将数据分为测试集和训练集，为了让那个训练的结果更加准确： 训练集：训练集+验证集 测试集：测试集 为什么需要交叉验证 交叉验证的目的：为了让被评估的模型更加准确。通常情况下，有很多参数是需要手动指定的，（如k-近邻算法的K值），这种叫超参数，但是手动过程繁杂，所以需要对模型预设几种超参数组合。每种组合都采用交叉验证来进行评估。最后选出最优参数组合建立模型。
K值K=3K=5K=7模型模型1模型2模型3模型选择与调优API： sklearn.model selection.GridSearchCV(estimator, param grid=None,cv=None)
对估计器的指定参数值进行详尽搜索estimator: 估计器对象param grid:估计器参数(dict){“n_neighbors”[1.3, 5]}cv: 指定几折交叉验证fit()= 输入训练数据score(): 准确率。结果分析: 最佳参数: best params_ 最佳结果: best. score_ 最佳估计器: best_ estimator_ 交叉验证结果: cv_ results_使用GridSearchCV构建估计器
（1）导入包：
from sklearn.datasets import load_iris from sklearn.model_selection import train_test_split from sklearn.preprocessing import StandardScaler from sklearn.neighbors import KNeighborsClassifier from sklearn.model_selection import GridSearchCV（2）编写knn_iris_gdcv()函数：
def knn_iris_gdcv(): ''' 用KNN算法对鸢尾花进行分类,添加网格搜索和交叉验证 :return: ''' # 1.获取数据 iris = load_iris() # 2.划分数据集 x_train, x_test ,y_train, y_test = train_test_split(iris.data, iris.target, random_state= 4) # 3.特征工程：标准化 transfer = StandardScaler() x_train = transfer.fit_transform(x_train) x_test = transfer.transform(x_test) # 4.KNN算法预估算 estimator = KNeighborsClassifier() # 加入网格搜索和交叉验证 # 参数准备 param_dict = {"n_neighbors":[1,3,5,7,9,11]} estimator = GridSearchCV(estimator, param_grid=param_dict,cv=10) estimator.fit(x_train,y_train) # 5.模型评估 # (1)直接比对真实值和预测值 y_predict = estimator.predict(x_test) print("y_predict:\n", y_predict) print("比对真实值和预测值：\n", y_test == y_predict) # (2)计算准确率 score = estimator.score(x_test, y_test) print("准确率为：\n",score) # 最佳参数: best params_ print("最佳参数：\n",estimator.best_params_ ) # 最佳结果: best. score_ print("最佳结果：\n",estimator.best_score_ ) # 最佳估计器: best_ estimator_ print("最佳估计器：\n",estimator.best_estimator_) # 交叉验证结果: cv_ results_ print("交叉验证结果：\n",estimator.cv_results_) return None（3）调用knn_iris_gdcv()：
if __name__ == "__main__": # 代码2：用KNN算法对鸢尾花进行分类,添加网格搜索和交叉验证 knn_iris_gdcv()（4）结果：
