机器分类---LR分类+模型评估

article/2025/9/2 16:15:28

文章目录

    • 数据集
    • ROC曲线与AUC
          • 理论知识
          • 曲线理解
          • 实例计算
    • 代码

更详细的数据集介绍(有图形分析,应该比较好理解)
https://blog.csdn.net/weixin_42567027/article/details/107416002

数据集

数据集有三个类别,每个类别有50个样本。

ROC曲线与AUC

理论知识

ROC曲线是二值分类问题的一个评价指标。它是一个概率曲线,在不同的阈值下绘制TPR与FPR的关系图,从本质上把“信号”与“噪声”分开。
ROC曲线的x轴是FPR,y轴是TPR。
在这里插入图片描述
在这里插入图片描述

曲线理解

在这里插入图片描述
random chance这条直线是随机概率,一半的概率是对的,一半的概率是错的。如果低于这条线,说明算法极差,都不如随机猜的。
因此在这条线的左边说明算法还好点。
然后实际的曲线根据计算得到的FPR,TPR的值得到。

实例计算

在这里插入图片描述
具体计算过程

在这里插入图片描述
在这里插入图片描述
AUC
AUC是分类器区分类的能力的度量,也就是ROC的面积,得出来的就是一个数。
AUC值越大,当前的分类算法越有可能将正样本排在负样本前面,即能够更好的分类。

代码

// An highlighted block
import pandas as pd
import numpy as np
from sklearn.linear_model import LogisticRegressionCV
from sklearn import metrics
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import label_binarize
import matplotlib as mpl
import matplotlib.pyplot as plt
from sklearn.pipeline import Pipeline
from sklearn.preprocessing import PolynomialFeaturesif __name__ == '__main__':pd.set_option('display.width', 300)pd.set_option('display.max_columns', 300)'''加载数据'''data = pd.read_csv('F:\pythonlianxi\iris.csv', header=None)#设置列标签columns = ['sepal_length', 'sepal_width', 'petal_length', 'petal_width', 'type']#rename:用于命名文件或目录data.rename(columns=dict(zip(np.arange(5), columns)), inplace=True)#Categorical:将类别信息转化成数值信息,因此将type中的数据类型进行转化data['type'] = pd.Categorical(data['type']).codes#print (data)'''数据集和标签集'''#x存储的是除type类外的数据,也就是数据集x = data.loc[:, columns[:-1]]#y中存储的是type数据,也就是标签集y = data['type']'''LR分类'''#训练集和测试集样本x, x_test, y, y_test = train_test_split(x, y, train_size=0.7)clf = Pipeline([#做线性回归预测时候,为了提高模型的泛化能力,经常采用多次线性函数建立模型#PolynomialFeatures:特征选择  degree:选择线性函数次数('poly', PolynomialFeatures(degree=2, include_bias=True)),('lr', LogisticRegressionCV(Cs=np.logspace(-3, 4, 8), cv=5, fit_intercept=False))])#调参clf.fit(x, y)y_hat = clf.predict(x)print ('训练集精确度:', metrics.accuracy_score(y, y_hat))y_test_hat = clf.predict(x_test)print ('测试集精确度:', metrics.accuracy_score(y_test, y_test_hat))'''AUC-ROC曲线'''n_class = len(data['type'].unique())#y_test:测试集的标签   label_binarize:标签二值化y_test_one_hot = label_binarize(y_test, classes=np.arange(n_class))#predict_proba返回的是一个n行k列的数组,# 第i行第j列上的数值是模型预测第i个预测样本为某个标签的概率,并且每一行的概率和为1。#测试集分类正确的概率y_test_one_hot_hat = clf.predict_proba(x_test)##metrics.roc_curve:计算ROC曲线面积,选取一个阈值计算TPR/FPRfpr, tpr, thresholds= metrics.roc_curve(y_test_one_hot.ravel(), y_test_one_hot_hat.ravel())print ('Micro AUC:\t', metrics.auc(fpr, tpr))print ('Micro AUC(System):\t', metrics.roc_auc_score(y_test_one_hot, y_test_one_hot_hat, average='micro'))#阈值的选取规则是在scores值中从大到小的以此选取auc = metrics.roc_auc_score(y_test_one_hot, y_test_one_hot_hat, average='macro')print( 'Macro AUC:\t', auc)'''绘图'''mpl.rcParams['font.sans-serif'] = u'SimHei'mpl.rcParams['axes.unicode_minus'] = Falseplt.figure(figsize=(8, 7), dpi=80, facecolor='w')plt.plot(fpr, tpr, 'r-', lw=2, label='AUC=%.4f' % auc)plt.legend(loc='lower right',fontsize=20)#对x轴,y轴的坐标值进行限制plt.xlim((-0.01, 1.02))plt.ylim((-0.01, 1.02))plt.xticks(np.arange(0, 1.1, 0.1))plt.yticks(np.arange(0, 1.1, 0.1))plt.xlabel('False Positive Rate', fontsize=20)plt.ylabel('True Positive Rate', fontsize=20)plt.grid(b=True, ls=':')plt.title(u'ROC曲线和AUC', fontsize=24)plt.show()

在这里插入图片描述

在这里插入图片描述


http://chatgpt.dhexx.cn/article/kgQsMfvG.shtml

相关文章

python机器学习算法(赵志勇)学习笔记( Logistic Regression,LR模型)

Logistic Regression(逻辑回归) 分类算法是典型的监督学习,分类算法通过对训练样本的学习,得到从样本特征到样本的标签之间的映射关系,也被称为假设函数,之后可利用该假设函数对新数据进行分类。 通过训练数据中的正负样本,学习样本特征到样本标签之间的假设函数,Log…

推荐系统实战中LR模型训练(二)

背景: 上一篇推荐系统实战中LR模型训练(一) 中完成了LR模型训练的代码部分。本文中将详细讲解数据准备部分,即将文本数据数值化为稀疏矩阵的形式。 文本数据: 稀疏矩阵: 实现过程: 文本数据格…

机器学习 | LR逻辑回归模型

逻辑回归(Logistic Regression,简称LR)名为“回归”却是用来分类工作、在线性数据上表现优异的分类器。 视频教程:第07讲:逻辑回归是线性分类器的佼佼者 LR是数据挖掘领域常用的一种分类模型,常用于解决二分类问题,例如垃圾邮件判定、经济预测、疾病诊断(通过年龄、性…

推荐系统实战中LR模型训练(一)

背景: 在“批量导入数据到Redis” 中已经介绍了将得到的itema item1:score1,item2:score2…批量导入到Redis数据库中。本文的工作是运用机器学习LR技术,抽取相应的特征,进行点击率的估计。 点击率(Click-Through-Rate, CTR&#…

Prometheus TSDB存储原理

Python微信订餐小程序课程视频 https://blog.csdn.net/m0_56069948/article/details/122285951 Python实战量化交易理财系统 https://blog.csdn.net/m0_56069948/article/details/122285941 Prometheus 包含一个存储在本地磁盘的时间序列数据库,同时也支持与远程…

数据库必知必会:TiDB(8)TiDB 数据库 SQL 执行流程

数据库必知必会:TiDB(8)TiDB 数据库 SQL 执行流程 数据库 SQL 执行流程DML语句读流程概述SQL的Parse与CompileSQL的Execute DML语句写流程概述执行 DDL语句流程概要执行 知识点回顾 数据库 SQL 执行流程 在TiDB中三个重要组件: …

时不我待,TSDB崛起正当时

近期有小伙伴问Jesse,为什么你们要在现在这个时点做TSDB,这是个好时点吗?我认为这是个挺好的问题,因为再强的个人也比不上一个团队,再牛的团队也需要顺势而为。我们其实一直在深度思考“Why Now”的问题,因…

时间序列数据库TSDB排名

DB-Engines 中时序列数据库排名 我们先来看一下DB-Engines中关于时序列数据库的排名,这是当前(2016年2月的)排名情况: 下面,我们就按照这个排名的顺序,简单介绍一下这些时序列数据库中的一些。下面要介绍的…

TiDB Server

目录 TiDB Server架构 Online DDL GC 缓存管理 热点小表缓存 例题 TiDB Server架构 Protocol Layer:负责处理客户端的连接 Parse,Compile:负责SQL语句的解析与编译,并生成执行计划 Executor,DistSQL&#xff0…

Prometheus TSDB

TSDB 概述: Head: 数据库的内存部分 Block: 磁盘上持久块,是不变的 WAL: 预写日志系统 M-map: 磁盘及内存映射 粉红色框是传入的样品,样品先进入Head中存留一会,然后到磁盘、内存映射中(蓝色框)。然后当内…

TiDB体系结构之TiDB Server

TiDB体系结构之TiDB Server TiDB ServerTiDB Server主要组成模块SQL语句的解析和编译行数据与KV的转化SQL读写相关模块在线DDL相关模块TiDB的垃圾回收TiDB Server的缓存 TiDB Server TiDB Server的主要作用如下: 处理客户端连接SQL语句的解析和编译关系型数据与KV…

TSDB助力风电监控

各位小伙伴大家好,本期Jesse想再来跟大家聊聊TSDB的应用场景,在此也感谢尹晨所著的《时序数据库在风电监控系统中的应用》一文,其为我们探究TSDB在风电系统中的应用提供了重要的帮助。 本文仅代表个人观点,如有偏颇之处&#xff…

dbt-tidb 1.2.0 尝鲜

作者: shiyuhang0 原文来源: https://tidb.net/blog/1f56ab48 本文假设你对 dbt 有一定了解。如果是第一次接触 dbt,建议先阅读 官方文档 或 当 TiDB 遇见 dbt 本文中的示例基于官方维护的 jaffle_shop 项目。关于此项目的细节介绍&a…

为啥用 时序数据库 TSDB

前言 其实我之前是不太了解时序数据库以及它相关的机制的,只是大概知晓它的用途。但因为公司的业务需求,我意外参与并主导了公司内部开源时序数据库influxdb的引擎改造,所以我也就顺理成章的成为时序数据库“从业者”。 造飞机的人需要时刻…

Prometheus 学习之——本地存储 TSDB

Prometheus 学习之——本地存储 TSDB 文章目录 Prometheus 学习之——本地存储 TSDB前言一、TSDB 核心概念二、详细介绍1.block1)chunks2)index3)tombstone4)meta.json 2.WAL 总结 前言 Prometheus 是 CNCF 收录的第二个项目&…

阿里云IoT物模型上报数据流转到实例内TSDB

阿里云物联网平台上存储的数据最多为30天,为了能让数据永久保存下来,就需要把物联网平台的数据流转到其他的数据库,对于企业版实例,内部有一个实例内的时空数据库TSDB,正好可以利用。下边就介绍一下物联网平台的物模型…

使用TSDB自动检测时序数据的异常情况

本期Jesse就带大家来继续了解一下TSDB的应用问题,小伙伴们,让我们直接步入正题吧。 本文仅代表个人观点,如有偏颇之处,还请海涵~ 现今,每天都有数千亿个传感器产生大量时序数据。公司收集大量数据使得分析…

TSDB 存储引擎介绍

本文介绍 DolphinDB 在2.0版本中新推出的存储引擎 TSDB。 1. OLAP 与 TSDB 适用的场景 OLAP 是 DolphinDB 在2.0版本之前的唯一存储引擎。数据表中每个分区的每一列存为一个文件。数据在表中的存储顺序与数据写入的顺序一致,数据写入有非常高的效率。 OLAP 引擎的…

TSDB与Blockchain

各位小伙伴们我们又见面了,伴随着区块链技术的推广,很多企业也在思考是否将其应用。其实TSDB与区块链有很多共通之处,本期Jesse就来和大家聊聊TSDB与区块链。本文参考了Nicolas Hourcard的文章“You Don’t Need a Blockchain, You Need a Ti…

FlashDB嵌入式数据库之TSDB数据存储解析

一、驱动层:SFUD(Serial Flash Universal Driver) 是一款开源的串行 SPI Flash 通用驱动库 二、中间层:FAL(FLASH ABSTRACTION LAYER))FLASH 抽象层 三、应用层:FlashDB(FlashDB 是一…