机器学习是机器通过经验和数据提高自身的感知、认知、思考和行动能力的科学，是来自计算机科学、统计学、心理学、神经科学、控制理论等的交叉学科。

🥰 机器学习概述

表示

• 问题抽象：是对待解决的问题进行抽象化处理，即将问题转换成一道逻辑题或者数学题。比如，判断一张图片中的动物是否为猫，结果无外乎“是”或“不是”两种，那在算法上就可将它看成一个二分类问题，输出就可定义为0或1。

• 数据抽象：即用数据来刻画物理世界中的事物。仍以判别猫为例，判断一张图片中的动物是否为猫，需要关注动物的脸、毛发、身体等方面的特征，将这些信息用数学方式表征，然后经过综合评估，就能完成判断。

在对问题、现实情况有了充分的理解之后才能进行算法的选择，再之后机器才有机会参与进来，执行具体任务。

评价

优化

分类

• 按照函数的复杂度：
• 线性模型
• 非线性模型

• 按照学习准则的差异：
• 统计方法
• 非统计方法

• 按照佩德罗·多明戈斯的流派归纳（华盛顿大学教授）：
• 符号主义
• 贝叶斯派
• 联结主义
• 进化主义
• 行为类比主义

• 按照数据样本提供的信息和反馈方式：
• 监督学习
• 无监督学习
• 强化学习

• 其他范式：
• 半监督学习
• 自监督学习（近些年提出）

🥳 监督学习

基本概念：

• 组成部分：
• 信息输入：图片、文本等数据
• 预期输出（标签）：连续数值或离散分类项

• 任务分类：
• 回归任务：
• 预测实数结果（如产品市场价格、股票价格）
• 常用方法：线性回归
• 分类任务：
• 预测样本所属类别（如动物分类、物品分类）

• 常见算法：
• k-近邻（k-Nearest Neighbors, kNN）算法
• 决策树
• 朴素贝叶斯

工作流程：

• 人工标注：对原始数据进行人工标注，提供监督信息，形成训练数据集

• 算法训练：使用带有监督信息的训练数据集训练模型，模型获得辨别能力

• 模型部署：将训练好的模型部署到应用中，用于判别类似数据

应用领域：

• 回归任务：价格预测（如股票、市场产品）

• 分类任务：动物分类、物品分类等场景

🥰 无监督学习

基本概念

• 核心特点：
• 无需人工标注数据
• 机器自动解析数据，提取特征表征，分析数据分布

• 主要方法：
• 聚类算法：通过数据内在的模式进行分组，发现数据类别
• 挖掘数据的内在监督信息，揭示隐含的结构

• 优点：
• 不依赖人工标注，降低成本
• 适用于大规模、难以标注的数据集

实际应用

• 人脸识别：通过聚类分析对大规模人脸数据进行分组

• 制造业缺陷检测：
• 比较正常与异常样本，判断产品是否正常
• 适用于多种多样的缺陷样式

• 互联网用户画像：
• 自动聚合用户数据，分类用户类型
• 解决用户种类繁多、人工难以划分的问题

意义

• 高效性：解决人工标注成本高的问题

• 广泛性：能适应多样化场景，特别是在大数据环境中效果显著

😆 强化学习

基本概念

• 定义：又称增强学习，是智能体通过与环境交互完成任务的序列化学习过程

• 组成部分：
• 系统环境：智能体与之交互的外部条件
• 智能体（Agent）：进行决策的核心主体
• 状态：系统当前的环境信息
• 行动：智能体对环境采取的操作
• 奖励：系统根据行动的结果给予的反馈（正向或负向）

• 运行机制：
• 智能体通过行动作用于环境，环境根据行动结果反馈奖励和状态
• 智能体通过调整行动策略，优化长期奖励，实现目标

特点

• 试错学习：智能体通过反复尝试和错误总结经验

• 长期回报最大化：注重策略在长时间内的累积奖励

• 突破局限：
• 无需监督学习中的标注数据
• 可与动态环境交互，弥补无监督学习的不足

实际案例

• 游戏AI：以《超级玛丽》为例，智能体通过不断尝试不同动作（如跑、跳），最终学习出通关策略，完成更多关卡以获得最大奖励

• 决策类场景：
• 训练自动化控制算法
• 游戏AI的开发和优化

• 深度强化学习：
• 深度神经网络的结合使强化学习更强大
• 应用于 AlphaGo、AlphaZero 等游戏项目，突破人类能力极限

意义

1. 拓展了机器学习的实现路径

2. 适合动态决策和控制问题

3. 在复杂场景中展示了强大的学习能力和适应性

🥵 半监督学习与自监督学习

半监督学习

• 定义：
• 结合监督学习和无监督学习的方法。
• 利用少量标注数据和大量未标注数据进行学习。

• 适用场景：
• 当人工标注数据不足时，通过大量未标注数据提高模型性能。

• 关键关注点：
• 如何有效利用未标注数据。
• 目标：比单独使用大量标注数据达到更优效果。

自监督学习

• 定义：
• 通过数据自身生成标签或通过数据变换得到标签进行学习。
• 不需要专门的人工标注。

• 运行机制：
• 从大规模数据中挖掘或构造自身的监督信息。
• 学习数据内在表征。
• 在下游任务中，仅需少量监督数据即可获得良好效果。

• 特性分析：
• 无需人工标注，因此可视为无监督学习。
• 存在自构造的监督信息，又具有有监督学习的特征。