国科大-模式识别-神经网络的基本概念
本课程讲解了神经网络的基本概念、发展历程及其在深度学习中的应用。主要内容包括前向神经网络与反馈神经网络的结构、训练方法，重点阐述了反向传播算法的原理及其在网络优化中的作用。同时，课程还涉及深度学习的演变、卷积神经网络的应用、无监督学习与迁移学习的概念，以及经典深度学习模型与未来发展方向。最后，强调了开源工具对人工智能发展的推动作用。
神经网络与反向传播算法
反向传播算法是神经网络训练中的核心技术，课程中详细探讨了权重更新的过程及其通过梯度下降优化网络性能的重要性。
神经网络的发展：通过生物学启发，了解神经元的结构和功能是掌握复杂网络的基础。
梯度更新过程：通过误差调整权重，提高模型的准确性和效率。
机器学习三大问题：分类、回归和概率密度函数估计，这些问题是机器学习的核心。
损失函数的重要性
损失函数在深度学习中至关重要，常用的有平方误差和交叉熵损失函数。
平方误差：主要用于回归问题，适用于输出层每个节点的目标函数，但在分类问题中表现较差。
交叉熵：在分类问题中更为有效，具有更快的收敛速度，提高了模型的训练效率。
降维与网络结构设计
降维过程对神经网络的表达能力有显著影响，隐含层 ...
国科大-模式识别-神经网络的历史
本节内容讲解了神经网络的核心概念和训练机制，涵盖了感知器、激活函数、权重更新等关键主题。通过逐层反向传播算法的介绍，详细解释了如何从输出层到输入层逐步更新权重，并强调了误差的收集与传递过程。视频还指出，激活函数的选择与网络结构的设计在深度学习模型的性能中起着至关重要的作用。最后，通过具体的数学推导，展示了如何实现权重的更新，并论述了掌握这些基本原理在深度学习中的重要性。
亮点内容
人工神经网络的基础与发展
人工神经网络（ANN）模仿生物神经网络的工作方式，是一种能模拟人类大脑神经元计算过程的数学模型。神经元通过加权求和机制处理信息，确保信号的有效传递与处理，从而实现复杂功能，这一过程奠定了人工智能发展的基础。ANN的发展历经多个阶段，从最初的机器感知模型到现代的层次式结构，神经元通过层级结构形成复杂的处理系统。早期的神经元模型基于电路的开关状态，模拟了神经元的激活和抑制，为后续的神经网络理论奠定了基础。
神经网络的学习规则与发展历史
神经网络的学习规则源自生物学的启发，通过调整信号连接强度，无需数据驱动的学习方法被提出。1956年达特茅斯会议标志着人工智能的诞生，探讨了从数学和硬件角度 ...
国科大-模式识别-线性判别函数及应用
贝叶斯决策理论与统计模式识别
贝叶斯决策理论概述
贝叶斯决策理论在模式识别中的核心地位不可忽视。它依赖于最小错误率和最小代价原则，旨在最大化分类决策的有效性和准确性。特别是在统计模式识别中，贝叶斯决策的应用通过最小化分类错误率或代价，实现了决策的优化。
贝叶斯估计与高斯分布
在高斯分布的假设下，贝叶斯决策理论扩展为多种具体准则的应用，如线性判别函数和马氏距离度量。这些准则为分类器的构建提供了理论基础。贝叶斯估计方法则通过样本估计未知的概率密度函数，允许在现实条件下对模式识别问题进行处理。
贝叶斯学习与概率密度估计
无参数与半参数估计
贝叶斯学习中的无参数和半参数估计方法为处理新样本的引入提供了有效途径。无参数估计方法如爬升窗估计和K近邻估计，通过直方图的方式估计概率密度，为数据分析提供了基础支持。
核密度估计
核密度估计作为一种更为通用的概率密度估计方法，强调选择合适的核函数，以提高模型的预测能力。通过假定每个样本的贡献，可以更加精准地估计概率密度函数，这对样本驱动的学习过程尤为重要。
线性判别函数在分类问题中的应用
线性可分性与偏移项的作用
线性判别函数在分类问题中的重要性不言而喻。 ...
国科大-模式识别-非参数概率密度估计与k近邻方法
本课程主要聚焦于统计生成模型中的非参数方法，尤其是基于贝叶斯决策的概率密度估计。与传统的参数方法不同，非参数方法不依赖于特定概率密度函数的形式，而是结合样本数据动态地估计概率密度。课程讨论了两种主要的非参数估计方法：固定窗口估计和k近邻估计。其中，固定窗口估计假设一个恒定的窗口大小，而k近邻估计则在样本数量固定的情况下动态调整窗口大小。此外，课程还涉及到距离度量对分类器性能的优化，并探讨了切线距离和泰勒展开的概念，旨在强调概率密度估计在模式识别和机器学习中的关键作用及其应用。
非参数概率密度估计的重要性
灵活性和应用:
非参数概率密度估计的灵活性使其能适应任意分布，是现代统计分析中的重要工具。它允许根据样本数量动态调整参数，从而适应复杂数据。
与参数方法对比，非参数方法不对密度函数的形式作出假设，而参数方法依赖于特定的函数形式，这给予了非参数方法在复杂数据情况下更强的适应性。
半参数方法如高斯混合模型则结合了两者的优点，通过多个成分来描述复杂分布，适用于聚类和分类任务。
方法与技术
固定窗与k近邻估计:
固定窗口估计假设局部区域的体积不变，适用于处理样本动态变化的情况。k ...
国科大-模式识别-参数估计与EM算法
本节课主要讲解了统计模式识别中的参数估计方法，特别关注最大似然估计和期望最大化（EM）算法。课程复习了概率密度函数的参数估计，并深入探讨了生成模型与判别模型的区别。重点介绍了EM算法在处理缺失数据时的应用，及其通过迭代计算来估计模型参数的效率。此外，课程还涵盖隐马尔可夫模型的基本概念，包括状态转移概率、释放概率和初始概率的估计方法。
参数估计与理论联系
半参数法与EM算法:
深入理解参数估计中的最大似然估计和贝叶斯估计，为学习复杂的半参数法奠定基础。
介绍了生成模型与判别模型的应用场景与理论基础，帮助学生掌握复杂模型与算法。
强调理解公式时，从整体入手，逐步掌握符号的物理意义，帮助学习复杂理论。
理论基础与应用
基础理论的重要性:
掌握最大似然估计和贝叶斯估计的区别：前者提供确定的参数值，后者提供参数的概率分布。
通过理解特征维度对分类错误率的影响，提升贝叶斯决策在高斯分布情况下的分类准确性。
特征选择对分类性能的显著影响：有效特征选择不仅提高精度，还能减少计算量。
特征降维与维度影响
特征降维和马氏距离:
将高维特征空间简化为一维特征空间可保持相同错误率，利用 ...
国科大-模式识别-贝叶斯决策与模式识别应用
本节课讲解了贝叶斯决策的基本概念及其在模式识别中的应用，强调了该理论在统计分类中的重要性。课程开篇介绍了模式识别的基础方法，包括贝叶斯决策、特征表示、监督学习和无监督学习等。同时，深入探讨了贝叶斯决策规则的数学基础，讨论了后验概率的计算及其与特征空间的相互关系，分析了高斯分布的属性及其对决策面的影响。课上强调了贝叶斯分类器的理论最优性，并指出其实际应用中的一些挑战。
模式识别与贝叶斯决策基础
模式识别概念及应用背景:
探讨了模式识别的定义及其主要方法。学生在之前的课程中已对该领域有整体的了解，而贝叶斯决策的引入强化了这一认知。
作为一种使用生成模型的分类方法，贝叶斯决策强调最大后验概率的计算。深入理解后验概率及其在模式分类中的应用是学习的关键。
统计模式识别方法:
课程将统计模式识别方法分为生成模型和判别模型，通过比较参数与非参数方法增强理解，提升分析能力。
计算与决策优化
贝叶斯决策与条件概率:
探讨了已知类别数条件下的模式分类，强调通过输入特征进行判别的必要性，这对开发有效分类器尤其在复杂任务中至关重要。
贝叶斯决策的应用:
以实例演示如何在特征缺 ...
国科大-算法设计与分析-写在后面
daf9e1003c8b639b6138b233a83323399bfd82f19c3ce896991a11483a2af5d86b8a9d8fcc0f1948f0ff6c9aeaa47432bc379a0caad8773707db959abfd252294df48838d9c81facd35b9cabba4c7d41d548d2009932d156119df1488cf7a8e48e2cda36de3b34492fbc24c25384dbd590fdc2fe3c39de166f5990b160c8fe483d3dfaa650614b24364bd46209882f1be37495c64e815666ec857cc85da058841b89788247a5537dc75e5b81b61f8378faa5f09b474f400d24ad981fba0db18d4f4c06cc957937ce0f7482a3b329ba3c6c6034e69eac6cb210e7261ac4c5fa332c62541bad530f1724d05e28cc557760
...
alg. des. -算法设计
daf9e1003c8b639b6138b233a83323390ecd82221112717508616ff4b12708fe2b454ea3dfaab2eb28c0918462c504e87d0e9b8d569196b0c5b0d4cc952d97452420dff03dcc1fcd6c4d290f23dc3f9900a463d3042157739dd384164fb78f30a008af41d710dc1bc739ec11b29b33c55f4be6cc1c188a606a816b156b8f98035fd6615276fe0d91919f5d8be9e0fb28b4f31ce0224a624616af3892b34c7f133f1c20fa3f19811f3ea422c086706906270284cbe946ff438a257d095efc286a277ad9372599e224161d9639929381c05176e21bb80ccdcebcf5ae1282ec28538e46e66d6ad52d0ba7db0f79847cd0e23d279f6f5b3b75e34 ...
2022年度总结
工作：
点云语义分割：将扫描仪重建出来的场景点云进行逐点分类。
输电线场景的参数化建模：利用无人机航拍的点云，恢复出野外地表面的稠密深度图与导线的参数化模型
学习：
TUM-多视图几何
国科大-卜东波-计算机算法设计与分析
📗-算法设计
公开课-李沐-动手学习深度学习
📗-李航-机器学习方法
中科大-计算机图形学(未完成)
GAMES102-几何建模与处理(未完成)
深蓝学院-点云深度学习(弃)
中科大-凌青-凸优化(未完成)
📗-MVG-多视图几何(未完成)
📗-凸优化(未完成)
GAMES102-几何建模与处理-写在后面
刘利刚老师的另一门课，只听了前面几节课，感觉和我想听的有点不一样，有空再看