前言<br>第1章机器学习概述<br>1.1机器学习的组成<br>1.2分类问题和回归问题<br>1.3监督学习、半监督学习和<br>无监督学习<br>1.4生成模型和判别模型<br>1.5模型评估<br>1.5.1训练误差和泛化误差<br>1.5.2过拟合和欠拟合<br>1.6正则化<br>1.7Scikitlearn模块<br>1.7.1数据集<br>1.7.2模型选择<br>1.8习题<br>第2章线性回归及最大熵模型<br>2.1线性回归<br>2.1.1一元线性回归<br>2.1.2多元线性回归<br>2.2广义线性回归<br>2.2.1逻辑回归<br>2.2.2多分类逻辑回归<br>2.2.3交叉熵损失函数<br>2.3最大熵模型<br>2.3.1最大熵模型的导出<br>2.3.2最大熵模型与逻辑回归之间的<br>关系<br>2.4评价指标<br>2.4.1混淆矩阵<br>2.4.2准确率<br>2.4.3精确率与召回率<br>2.4.4PR曲线<br>2.4.5ROC曲线与AUC曲线<br>2.5实例：基于逻辑回归实现乳腺癌<br>预测<br>2.6习题<br>第3章k近邻算法<br>3.1k值的选取<br>3.2距离的度量<br>3.3快速检索<br>3.4实例：基于k近邻实现鸢尾花<br>分类<br>3.5习题<br>第4章决策树模型<br>4.1特征选择<br>4.1.1信息增益<br>4.1.2信息增益比<br>4.2决策树生成算法CART<br>4.3决策树剪枝<br>4.3.1预剪枝<br>4.3.2后剪枝<br>4.4实例：基于决策树实现葡萄酒<br>分类<br>4.5习题<br>第5章朴素贝叶斯分类器<br>5.1极大似然估计<br>5.2朴素贝叶斯分类<br>5.3拉普拉斯平滑<br>5.4朴素贝叶斯分类器的极大似然<br>估计解释<br>5.5实例：基于朴素贝叶斯实现垃圾<br>短信分类<br>5.6习题<br>第6章支持向量机模型<br>6.1最大间隔及超平面<br>6.2线性可分支持向量机<br>6.3合页损失函数<br>6.4核技巧<br>6.5二分类问题与多分类问题<br>6.5.1一对一<br>6.5.2一对多<br>6.5.3多对多<br>6.6实例：基于支持向量机实现<br>葡萄酒分类<br>6.7习题<br>第7章集成学习<br>7.1偏差与方差<br>7.2Bagging及随机森林<br>7.2.1Bagging<br>7.2.2随机森林<br>7.3Boosting及AdaBoost<br>7.3.1Boosting<br>7.3.3AdaBoost<br>7.4提升树<br>7.4.1残差提升树<br>7.4.2GBDT<br>7.4.3XGBoost<br>7.5Stacking<br>7.6实例：基于梯度下降树实现<br>波士顿房价预测<br>7.7习题<br>第8章EM算法及其应用<br>8.1Jensen不等式<br>8.2EM算法<br>8.3高斯混合模型<br>8.4隐马尔可夫模型<br>8.4.1计算观测概率的输出<br>8.4.2估计隐马尔可夫模型的参数<br>8.4.3隐变量序列预测<br>8.5实例：基于高斯混合模型实现<br>鸢尾花分类<br>8.6习题<br>第9章降维算法<br>9.1主成分分析<br>9.1.1方差即协方差的无偏估计<br>9.1.2实例：基于主成分分析实现<br>鸢尾花数据降维<br>9.2奇异值分解<br>9.2.1奇异值分解的构造<br>9.2.2奇异值分解用于数据压缩<br>9.2.3SVD与PCA的关系<br>9.2.4奇异值分解的几何解释<br>9.2.5实例：基于奇异值分解实现图片<br>压缩<br>9.3习题<br>第10章聚类算法<br>10.1距离度量<br>10.1.1闵可夫斯基距离<br>10.1.2余弦相似度<br>10.1.3马氏距离<br>10.1.4汉明距离<br>10.2层次聚类<br>10.3KMeans聚类<br>10.4KMedoids聚类<br>10.5DBSCAN<br>10.6实例：基于KMeans实现<br>鸢尾花聚类<br>10.7习题<br>第11章神经网络与深度学习<br>11.1神经元模型<br>11.2多层感知机<br>11.3损失函数<br>11.4反向传播算法<br>11.4.1梯度下降法<br>11.4.2梯度消失及梯度爆炸<br>11.5卷积神经网络<br>11.5.1卷积<br>11.5.2池化<br>11.5.3网络架构<br>11.6循环神经网络<br>11.7生成对抗网络<br>11.8图卷积神经网络<br>11.9深度学习发展<br>11.10实例：基于卷积神经网络<br>实现手写数字识别<br>11.10.1MINST数据集<br>11.10.2基于卷积神经网络的手写<br>数字识别<br>11.11习题<br>第12章案例1：基于回归问题、<br>XGBoost的房价预测<br>12.1XGBoost模型介绍<br>12.2技术方案<br>12.2.1数据分析<br>12.2.2XGBoost模型参数<br>12.2.3调参过程<br>12.3完整代码及结果展示<br>第13章案例2：影评数据分析与<br>电影推荐<br>13.1明确目标与数据准备<br>13.2工具选择<br>13.3初步分析<br>13.3.1用户角度分析<br>13.3.2电影角度分析<br>13.4电影推荐<br>第14章案例3：汽车贷款违约的<br>数据分析<br>14.1数据分析常用的Python<br>工具库<br>14.2数据样本分析<br>14.2.1数据样本概述<br>14.2.2变量类型分析<br>14.2.3Python代码实践<br>14.3数据分析的预处理<br>14.3.1目标变量探索<br>14.3.2X变量初步探索<br>14.3.3连续变量的缺失值处理<br>14.3.4分类变量的缺失值处理<br>14.4数据分析的模型建立与模型<br>评估<br>14.4.1数据的预处理与训练集划分<br>14.4.2采用回归模型进行数据分析<br>14.4.3采用决策树模型进行数据<br>分析<br>14.4.4采用随机森林模型优化<br>决策树模型<br>第15章案例4：基于KNN模型预测<br>葡萄酒种类的数据分析与<br>可视化<br>15.1KNN模型的初级构建<br>15.2使用专业工具包构建KNN<br>模型<br>15.3数据可视化<br>第16章案例5：使用Keras进行人<br>脸关键点检测<br>16.1深度学习模型<br>16.1.1数据集获取<br>16.1.2卷积神经网络的搭建与训练<br>16.2模型评价<br>16.3训练历史可视化<br>第17章案例6：股价预测<br>17.1使用tsfresh进行升维和特征<br>工程<br>17.2程序设计思路<br>17.3程序设计步骤<br>17.3.1读入数据，分析数据<br>17.3.2移窗<br>17.3.3升维<br>17.3.4方差过滤<br>17.3.5使用Adaboost模型进行回归<br>预测<br>17.3.6预测结果分析<br>第18章案例7：用户流失预警<br>18.1读入数据<br>18.2数据预处理<br>18.3五折交叉验证<br>18.4代入三种模型<br>18.5调整prob阈值，输出精度<br>评估<br>第19章案例8：机器人最优路径<br>走迷宫<br>19.1关键技术<br>19.1.1马尔科夫决策过程<br>19.1.2Bellman方程<br>19.2程序设计步骤<br>19.2.1初始化迷宫地图<br>19.2.2计算不同位置最优路径<br>参考文献