作者归档:Fidum

【机器学习基础算法】之K近邻算法

k近邻算法主要应用于在分类上的有监督算法中。

原理
  在分类任务中,我们的目标是判断样本x的类别y。
  KNN会先观察与该样本点距离最近的K个样本,统计这些样本所属的类别。然后,将当前样本归到出现次数最多的类中。我们用KNN算法的经典示意图来更清晰地说明其思想

继续阅读

独立思考能力,你有吗?

  我们总是容易被各种各样的消息影响我们的判断,这些消息可能来自你很信任的人,也可能来自大众对某件事物的统一评价。

  对于来自你信任的人的消息,你就真的可以全部相信吗?姑且认为你信任的人也是值得信任的人,他的三观正道德感强,但他真的实实在在的了解事情的来龙去脉吗,有没有可能,他只是知道故事的一小部分情节,通过这一小部分情节推断出来的结论非常有可能会是片面的,然后他把这些东西告诉你,你就信了吗?
  对于来自大众的消息,也很容易出现误导,一个消息或者意识形态的爆火,基本上都是上面控制的,上面控制着舆论的走向,对于国内大多民众来说,让你知道什么,你就只能知道什么,事情背后的本质如果涉及某些敏感问题或可能触及ZF威信等消息,你可能知道吗?

  对此,人一定要有独立思考的能力,不能只信朋友闺蜜或者大众的嘴,对于某件消息,一定要首先质疑消息的真实性和完整性,然后基于社会运行的规则或心理学去自行判断。通过表象去看透本质,是很多人需要锻炼的能力。

【机器学习基础算法】之梯度下降法、归一化、正则化和多项式升维

梯度下降法(最好的无约束最优化问题的求解算法)

  梯度下降法(Gradient Descent)是一个算法,但不是像多元线性回归那样是一个具体做回归任务的算法,而是一个非常通用的优化算法来帮助一些机器学习算法求解出最优解的,所谓的通用就是很多机器学习算法都是用它,甚至深度学习也是用它来求解最优解。所有优化算法的目的都是期望以最快的速度把模型参数θ求解出来,梯度下降法就是一种经典常用的优化算法。

继续阅读

【数学基础】python在数学中的简单应用之线性代数基础

  线性代数是代数学的一个分支,主要处理线性关系问题(简称先线性问题)。线性代数中的概念是机器学习必备的基础知识,有助于理解不同机器学习算法背后的原理、算法内部是如何运行的,以便在开发机器学习系统时更好地做决策。在机器学习的背景下,线性代数也是一个数学工具,提供了像向量和矩阵这样的数据结构用于组织大量的数据,同时也提供了如加、减、乘、求逆等有助于操作数据的运算,从而将复杂的问题简单化,提升大规模运算的效率。

继续阅读