数据挖掘与分析应用:算法模型选择与训练、评估模型、上线部署,回到准备数据阶段

2022找工作是学历、能力和运气的超强结合体,遇到寒冬,大厂不招人,可能很多算法学生都得去找开发,测开测开的话,你就得学数据库,sql,oracle,尤其sql要学,当然,像很多金融企业、安全机构啥的,他们必须要用oracle数据库这oracle比sql安全,强大多了,所以你需要学习,最重要的,你要是考网络警察公务员,这玩意你不会就别去报名了,耽误时间!与此同时,既然要考网警之数据分析应用岗,那必然要考数据挖掘基础知识,今天开始咱们就对数据挖掘方面的东西好生讲讲

数据挖掘知识系列文章
【1】数据挖掘与分析应用:理解业务和数据,准备数据,数据清洗,标准化,缺失值处理,构建数据集


文章目录

  • 数据挖掘与分析应用:算法模型选择与训练、评估模型、上线部署,回到准备数据阶段
  • @[TOC](文章目录)
  • 数据挖掘:算法怎么着合适?
  • 模型评估
  • 模型可以解决业务需求吗
  • 总结

数据挖掘:算法怎么着合适?

数据挖掘模型搭建的基本步骤_数据挖掘模型搭建的基本步骤


面对的问题是??

数据挖掘模型搭建的基本步骤_数据挖掘模型搭建的基本步骤_02


数据挖掘模型搭建的基本步骤_关联关系_03


数据挖掘模型搭建的基本步骤_数据挖掘_04


数据挖掘模型搭建的基本步骤_算法_05


美丑二分类

1-n多分类

多标签,一个数据,几种类别

数据挖掘模型搭建的基本步骤_模型选择_06

数据挖掘模型搭建的基本步骤_数据挖掘模型搭建的基本步骤_07


数据挖掘模型搭建的基本步骤_模型选择_08


数据挖掘模型搭建的基本步骤_数据挖掘模型搭建的基本步骤_09


数据挖掘模型搭建的基本步骤_算法_10


数据挖掘模型搭建的基本步骤_关联关系_11


数据挖掘模型搭建的基本步骤_模型选择_12


数据挖掘模型搭建的基本步骤_数据挖掘模型搭建的基本步骤_13


数据挖掘模型搭建的基本步骤_数据挖掘模型搭建的基本步骤_14


线到各个点的距离——cost——loss最小

回归+sigmoid

可以变二分类的标签

数据挖掘模型搭建的基本步骤_关联关系_15


数据挖掘模型搭建的基本步骤_关联关系_16


关联模式

关联关系

相关关系

尿不湿+啤酒

数据挖掘模型搭建的基本步骤_算法_17


数据挖掘模型搭建的基本步骤_模型选择_18


数据挖掘模型搭建的基本步骤_数据挖掘模型搭建的基本步骤_19


数据挖掘模型搭建的基本步骤_数据挖掘模型搭建的基本步骤_20


数据挖掘模型搭建的基本步骤_数据挖掘模型搭建的基本步骤_21


数据挖掘模型搭建的基本步骤_数据挖掘_22

模型评估

数据挖掘模型搭建的基本步骤_算法_23


消耗大量时间,等待产出

希望有一个好结果

识别小猪猪

二分类f

1000张训练

800是,200否

数据挖掘模型搭建的基本步骤_算法_24


数据挖掘模型搭建的基本步骤_算法_25


true positive

true negative假阳性:负判正

假阴性,正判负

数据挖掘模型搭建的基本步骤_数据挖掘_26


准确率acc

正确预测的,正样本OK,负样本也OK

精确率,正样本总体下,正的比例

召回,正确的,确实是真的正【可能是负样本判正了】

数据挖掘模型搭建的基本步骤_关联关系_27


数据挖掘模型搭建的基本步骤_模型选择_28


roc和auc

数据挖掘模型搭建的基本步骤_数据挖掘模型搭建的基本步骤_29


数据挖掘模型搭建的基本步骤_算法_30


数据挖掘模型搭建的基本步骤_数据挖掘_31


数据挖掘模型搭建的基本步骤_算法_32


数据挖掘模型搭建的基本步骤_数据挖掘模型搭建的基本步骤_33


数据挖掘模型搭建的基本步骤_模型选择_34


数据挖掘模型搭建的基本步骤_模型选择_35


数据挖掘模型搭建的基本步骤_关联关系_36


数据挖掘模型搭建的基本步骤_数据挖掘模型搭建的基本步骤_37


上面小猪有一个缺口,判定不是猪,那就过拟合

下面小羊竟然判定为猪,那就是欠拟合

数据挖掘模型搭建的基本步骤_关联关系_38


数据挖掘模型搭建的基本步骤_模型选择_39


数据挖掘模型搭建的基本步骤_关联关系_40


数据挖掘模型搭建的基本步骤_模型选择_41


数据挖掘模型搭建的基本步骤_数据挖掘模型搭建的基本步骤_42

模型可以解决业务需求吗

数据挖掘模型搭建的基本步骤_关联关系_43


数据挖掘模型搭建的基本步骤_数据挖掘_44


数据挖掘模型搭建的基本步骤_数据挖掘_45


数据挖掘模型搭建的基本步骤_模型选择_46


数据挖掘模型搭建的基本步骤_关联关系_47


数据挖掘模型搭建的基本步骤_关联关系_48

数据挖掘模型搭建的基本步骤_模型选择_49


数据挖掘模型搭建的基本步骤_算法_50


flask web服务

gunicorn http服务linux

nginx负载均衡器——避免单一资源过载

客户端app

数据挖掘模型搭建的基本步骤_数据挖掘_51


数据挖掘模型搭建的基本步骤_模型选择_52


数据挖掘模型搭建的基本步骤_关联关系_53


数据挖掘模型搭建的基本步骤_数据挖掘_54


数据挖掘模型搭建的基本步骤_算法_55


互联网公司经常动荡

数据挖掘模型搭建的基本步骤_数据挖掘模型搭建的基本步骤_56


数据挖掘模型搭建的基本步骤_数据挖掘模型搭建的基本步骤_57


数据挖掘模型搭建的基本步骤_关联关系_58


数据挖掘模型搭建的基本步骤_算法_59


数据挖掘模型搭建的基本步骤_数据挖掘_60


数据挖掘模型搭建的基本步骤_关联关系_61