Python机器学习可视化（二）sklearn.validation_curve选择超参数实例（完整代码）_python中 validation_curve(_AsajuHuishi的博客-程序员秘密

介绍

Scikit-learn提供了learning_curve类，方便获得和训练的可视化相关的数据。
例如，如果想要观察训练集使用不同样本数量和训练得分/测试得分的关系，可以使用learning_curve函数，在
Python机器学习可视化（一）sklearn.learning_curve
中介绍了训练样本数量——训练/测试得分曲线。

机器学习的方法中往往涉及到超参数的调整，本文利用validation_curve函数，以load_digit数据集和SGD分类为例，通过可视化的方式来考察不同超参数和性能之间的关系。实现结果如下图所示。

from sklearn.learning_curve import learning_curve, validation_curve

1.数据集选用load_digit数据集简单介绍

from sklearn.datasets import load_digits
X = digits['data'] #(1797,64)
Y = digits['target'] #(1797,)

2.采用SGD分类器

from sklearn.linear_model import SGDClassifier
sgd = SGDClassifier(loss='log', shuffle=True, n_iter=5, penalty='l2', alpha=0.0001, random_state=3)

3.选择超参数区间：10的-2次方到10的5次方，共8个值

testing_range = np.logspace(-5,2,8)  #自变量

调用validation_curve函数

train_scores, test_scores = validation_curve(sgd, X, Y, param_name='alpha',param_range=testing_range,
                                             cv=10, scoring='accuracy', n_jobs=1)

解释：
1.输入
sgd:分类器
X: data
Y: 标签
cv: K折交叉验证，本文选择10
scoring: sklearn一般评估方法
 机器学习中的precision, recall, accuracy, F值
param_name: 需要调整的超参数名称
param_range:超参数区间
2.输出：
train_scores:对于8个超参数的训练集，对10折交叉验证的10个训练得分，本文为(8,10)
test_scores:对于8个超参数的测试集，对10折交叉验证的10个测试得分，本文为(8,10)

处理

1.对于8种不同参数的训练集，对10折交叉验证的10个训练/测试得分取平均值(即压缩列)。
2.得到得分范围的上下界
3.如果上下界区域太大，可以在np.std前乘以一个小于一的数

mean_train = np.mean(train_scores,1)  #(8,)
# 得到得分范围的上下界
upper_train = np.clip(mean_train + np.std(train_scores,1),0,1) 
lower_train = np.clip(mean_train - np.std(train_scores,1),0,1)
    
mean_test = np.mean(test_scores,1)
# 得到得分范围的上下界
upper_test = np.clip(mean_test + np.std(test_scores,1),0,1) 
lower_test = np.clip(mean_test - np.std(test_scores,1),0,1)

画图

然后就可以得到超参数——训练/测试得分曲线了。

plt.figure('Fig2')
plt.semilogx(testing_range,mean_train,'ro-',label='train')
plt.plot(testing_range,mean_test,'go-',label='test')
##填充上下界的范围
plt.fill_between(testing_range,upper_train,lower_train,alpha=0.2,#alpha：覆盖区域的透明度[0,1],其值越大，表示越不透明 
         color='r')                   
plt.fill_between(testing_range,upper_test,lower_test,alpha=0.2,#alpha：覆盖区域的透明度[0,1],其值越大，表示越不透明 
         color='g')  
plt.grid()
plt.xlabel('alpha parameter')
plt.ylabel('accuracy')
plt.legend(loc='lower right')
plt.title('SGD')
plt.savefig('alpha_parameter.png')
plt.show()

完整代码：https://github.com/AsajuHuishi/examples_sklearn.learning_curve
参考文献：
《数据科学导论——Python语言实现》

本文链接：https://blog.csdn.net/qq_36937684/article/details/106168001

原作者删帖不实内容删帖广告或垃圾文章投诉

智能推荐

react使用clipboard复制文本数据_react clipboard_Suk__的博客-程序员秘密

首先安装:yarn add clipboardimport React, { useCallback, useState } from 'react';import ClipboardJS from 'clipboard';const Home = () => { const [text, setText] = useState('') // 选择一个按钮初始化一个Clipboard实例 new ClipboardJS('.btn') // 点击按钮请求接口数据复制.

求问matlab里面如何定义含有多个未知数的目标函数_matlab定义多个未知数_Kobe_in_nanling的博客-程序员秘密

这里J是目标函数，U是含有6个参数的函数，不过F和v可以通过试验的方式测出来，得到很多组一一对应的F和v的值，其余4个参数未知，想做的是其余4个参数的识别！求解答

【kubernetes/k8s概念】kube-ovn-controller 源码分析之一_张忠琳的博客-程序员秘密

kube-ovn-controller 逻辑职责是翻译 kubernetes 网络概念到 OVN，可以理解为 kube-ovn 的控制面功能，通过 kube-apiserver watch 所有网络相关事件，包括 Pod creation/deletion, Service/Endpoint modification, Networkpolicy changes 等等。然后翻译转为 OVN 逻辑网络的修改。也 watch kube-ovn 添加的 CRD，比如 VPC Subnet Vlan IP ...

ES6 核心特性_前端大全的博客-程序员秘密

（给前端大全加星标，提升前端技能）作者：浪里行舟https://github.com/ljianshu/Blog/issues/10前言ES6 虽提供了许多新特性，但我们...

Zabbix ODBC方式数据库监控_小朩的博客-程序员秘密

一、安装unixODBC可以在 unixODBC 主页上获取：http://www.unixodbc.org/download.html。使用yum包管理器在基于 RedHat/Fedora 的系统上安装 unixODBC ：yum -y install unixODBC unixODBC-devel使用zypper包管理器在基于 SUSE 的系统上安装 unixODBC ：zypper in unixODBC-devel二、安装 unixODBC 驱动程序应..

android常见错误之“Failed to get the adb version: Cannot run program”_moonwindlight的博客-程序员秘密

转自http://blog.sina.com.cn/s/blog_891e6bdc0100v5g7.html，帮了我大忙，谢谢原博主！这两天写程序时发现打开eclipse后，出现“Failed to get the adb version: Cannot run program。。。”的报错提示，百度一下发现解决方案五花八门，经逐一尝试之后，竟然发现都是360惹的祸，坑爹的36