上一节我们讲到了朴素贝叶斯算法，这一节我们将讲解决策树。它是一种基于树形结构的分类与回归算法，它通过对数据进行一系列的分裂，构建出一个树形模型，用于预测目标变量的取值。决策树的优点包括易于理解和解释、能够处理离散型和连续型特征、可以处理多分类问题等。 1. 决策树 1.1 基本算法步骤  特征选择：根据某个准则选择最佳的特征作为当前节点的分裂特征，常见的特征选择准则有信息增益、信息增益比、基尼系数等。 结点分裂：根据选定的分裂特征和分裂准则，将当前节点的样本集合分裂成子节点。 递归构建：对每个子节点，重复步骤1和步骤2，直到满足终止条件，例如达到最大深度或样本数量小于阈值。 剪枝：通过剪枝操作...

在本节中，我们将详细讲解朴素贝叶斯分类器，并提供相应的代码实例。首先，让我们回顾一下第四十六节的内容，然后从数学推理角度深入探讨朴素贝叶斯的原理和应用。 在上一节中，我们学习了SVM的原理和应用。SVM是一种常用的分类算法，通过建立SVM模型来预测二分类问题是一种常用的方法。在本节中，我们将讲解贝叶斯分类器，我们首先从数学推理角度看看朴素贝叶斯的原理。 1. 朴素贝叶斯  朴素贝叶斯分类器是一种基于贝叶斯定理的概率分类算法。 它假设特征之间相互独立，并利用贝叶斯定理计算后验概率来进行分类。 朴素贝叶斯分类器适用于文本分类、垃圾邮件过滤、情感分析等问题。  1.1 数学推理：  假设有n个特征(...

在上一节中，我们讲解了一种分类模型——逻辑回归，在本节中，我们将讲解另一种分类模型——支持向量机（Support Vector Machine，SVM）。我们将从数学推理的角度出发，详细介绍SVM的原理，然后，我们将实现一个实际案例。 1. SVM原理 SVM是一种经典的监督学习算法，适用于二分类和多分类问题。它的目标是找到一个最优超平面，能够最大化样本的间隔（即离超平面最近的样本点的距离最大化），从而达到更好的分类效果。 1.1 线性可分情况：  假设我们的训练数据集为{(x₁, y₁), (x₂, y₂), ..., (xₙ, yₙ)}，其中xᵢ是输入特征向量，yᵢ是对应的类别标签（1或-...

在第上一节中我们讲解了线性回归的原理及其案例，接下来我们将继续探讨逻辑回归的原理、应用以及代码实现。 1. 逻辑回归原理 逻辑回归虽然名字里面有“回归”二字，但确实是一种用于解决分类问题的机器学习算法，它可以将输入的特征映射到一个概率值（0到1之间），并根据这个概率值进行分类预测。逻辑回归的主要思想是通过一个线性函数与一个非线性的逻辑函数组合，来建立特征和输出之间的关系。 1.1 数学建模过程：   假设函数： 逻辑回归使用sigmoid函数作为假设函数，它将线性回归模型的输出通过一个非线性变换映射到0和1之间的概率值。假设函数的形式如下： h(x) = 1 / (1 + exp(-z))  ...

在前一节中，我们介绍了监督学习和无监督学习的概念以及其特点，也用线性回归演示了监督学习的基本过程，现在我们详细来讲解一下线性回归的原理和应用。 1. 线性回归原理 线性回归是一种基本的统计学习方法，用于建立输入特征和输出标签之间的线性关系。它假设输入特征与输出标签之间存在一个线性的关系，通过最小化预测值与实际值之间的误差来拟合这个线性关系，构建这个误差的函数我们一般称之为目标函数（或者损失函数）。 数学建模过程如下：  假设我们有n个样本数据，每个样本包含一个m维的输入特征向量x和一个标签y。 我们的目标是找到一个m维的权重向量w和一个偏置值b，使得预测值y_hat可以通过线性组合计算得出，即...

在前一节中，我们回顾了概率论与统计学的基础知识，并了解了事件与概率、随机变量与概率分布、累计分布、平均值、标准差、方差、分位数、期望、协方差、相关系数和假设检验等概念。这些概念对于机器学习的理解和应用非常重要。 本节我们将进一步介绍机器学习的两个重要分支：监督学习和无监督学习。这两种学习方法具有不同的特点和应用场景。 1. 监督学习 监督学习是一种通过使用已知输入和输出的样本数据进行训练的机器学习方法。它通过构建一个函数来建立输入和输出之间的映射关系，使得模型能够对新的输入进行预测。 特点：  监督学习需要标记好的训练数据集，其中包含输入特征和对应的输出标签。 常见的监督学习任务包括分类（Cl...

我们前面讲过了，机器学习是基于统计学的诞生的，因此当涉及到机器学习时，概率论和统计学是非常重要的基础知识。下面我们就简要介绍一些必要的概率统计学知识。 1. 概率论 1.1事件与概率   事件是指样本空间中的一个子集，概率是事件发生的可能性的度量，比如说我们投掷一枚均匀的硬币，出现的正面的可能性是1/2。 我们也可以用代码来表示，生成一个随机数，判断该随机数小于0.5的情况： import random # 生成一个随机数 num = random.random() print("随机数：", num) # 通过比较判断事件发生与否 if num < 0.5: print("事件发生")...

​ 上一节我们讲解了机器学习的基本概念，以及库函数的安装，这一节我们讲解更基础的数学内容。在机器学习中，高等数学和线性代数是非常重要的基础知识，它们提供了用于理解和解决机器学习问题的数学工具和概念。因此，本节将讲一讲机器学习以及后面深度学习中会用到的高等数学及线性代数的内容。 1. 函数、导数和偏导数 在机器学习中，函数是一个重要的概念，它描述了输入和输出之间的关系。函数可以是简单的一元函数，也可以是多元函数。在优化问题中，我们通常需要求解函数的最大值或最小值。 1.1 一元函数 一元函数是指只有一个自变量的函数。常见的一元函数包括线性函数、多项式函数、指数函数和对数函数等。其中，线性函数和多...

前面的章节中，我们系统学习了Python的用法，又在数据分析和爬虫中学习了各种库，现在让我们一起进入另一个重要的篇章——机器学习。 1. 机器学习概述 机器学习是一种人工智能领域的分支，旨在使计算机能够通过从数据中学习来改善自身的性能，而无需显式编程。它依赖于统计学、概率论和优化理论等领域的算法和技术，通过分析和处理大量数据来构建模型并做出预测或决策，比如中世纪就有人通过计算七个成年人的脚长来估计成年人的脚长，这可以算做初步的统计机器学习的范畴。 机器学习可以分为以下几个主要类别：  监督学习：使用已标记的训练数据，通过学习输入特征与相应输出之间的关系来构建预测模型。监督学习可以用于分类问题（...

在前面的章节中，我们了解了爬虫的用法，学会了使用爬虫进行一些网页内容的爬虫，也了解了一些高级的爬虫技术，现在我们我们整合前面所学的爬虫以及数据分析知识，一起来完成一个项目。 在这个项目中，我们将以猫眼电影网站（https://www.maoyan.com/）为例，爬取TOP100榜单的电影信息，总共需要爬取10页，然后进行数据分析。  导入所需的库和模块：  from selenium import webdriver from selenium.webdriver.chrome.options import Options from bs4 import BeautifulSoup impo...

在上一节中，我们讲解了一些反爬虫技术和反反爬虫技术，也介绍了基本的爬虫理论。在本节中，我们将探讨一些高级的爬虫技术，包括多线程爬虫、分布式爬虫和使用Cookie的爬虫。这些技术可以帮助我们更高效、更稳定地进行大规模数据的采集和处理。 1. 多线程爬虫 多线程爬虫是一种利用多个线程并发执行的方式来提高爬取效率的方法。通过同时执行多个任务，可以有效地利用系统资源，加快数据采集的速度。 import threading import requests from bs4 import BeautifulSoup def fetch_data(url): response = requests.get(...

在上一节我们爬取猫眼电影的时候，出现了页面加载错误的信息，这就是服务器应用了反爬虫技术，制裁我们。这一节，我们就简单了解一下反爬虫技术，以及如何应对反爬虫技术，正所谓“道高一尺，魔高一丈”。 反爬虫技术 在网络爬虫的过程中，网站可能会采取各种反爬虫技术来阻止爬虫程序的访问和数据采集。以下是一些常见的反爬虫技术：  验证码（Captcha）：网站使用验证码来区分机器人和人类用户，要求用户输入验证码后才能访问网站或提交表单。爬虫需要使用识别验证码的技术来自动处理验证码。 IP限制和封禁：网站可能会限制相同IP地址的频繁请求，或者封禁某些IP地址，使其无法访问网站。爬虫需要使用代理IP或者轮换IP来...

上一节我们讲解了使用Python爬取静态网页的信息，但是该方法只能直接获取当前网页HTML的信息，现在很多网站都需要点击才能获取更多信息，这种时候就需要用到我们的动态网页爬取了。 在动态网页爬取中，我们经常会使用Selenium库来模拟浏览器行为，并通过浏览器加载和执行JavaScript代码来获取动态生成的内容。本节将以猫眼电影https://www.maoyan.com/board/4?offset=0 为例，讲解如何爬取、处理动态网页，并重点介绍Selenium库的各个函数和方法。 Selenium库基本函数 Selenium库拥有比静态解析库更为复杂的函数与操作，因为它需要模拟浏览器的...

在上一节中，我们讲了爬虫中重要的基础知识HTTP请求和响应，并尝试向百度发送请求得到我们看不太懂的响应，这一节我们就要尝试解析这些响应。本节将以百度百科上的Python词条页面为例，讲解如何爬取和处理静态网页数据。 1. 发送HTTP请求 首先，我们需要发送HTTP请求来获取网页的内容，这同我们上一节讲的内容一样的，再复习一遍：假设我们要爬取的目标网站是https://baike.baidu.com/item/Python/407313?fr=aladdin，我们可以使用以下代码发送GET请求： import requests url = 'https://baike.baidu.com/it...