人工智能之AI终结算法
前言：《终极算法》是一本由[美] 佩德罗·多明戈斯著作，书的副标题为机器学习和人工智能如何重塑世界, 本书由中信出版集团出版。作者作为一个浸淫机器学习领域数十载的专家，提出了一个猜想：对于现今分立的各个机器学习流派，是否存在一种终极算法，可以将这些流派综合、统一起来？
《终极算法》是一本由[美] 佩德罗·多明戈斯著作，书的副标题为机器学习和人工智能如何重塑世界, 本书由中信出版集团出版。本书作者是佩德罗·多明戈斯（Pedro Domingos），美国华盛顿大学计算机科学教授，加州大学欧文分校信息与计算机科学博士，国际机器学习学会联合创始人、《机器学习》杂志编委会成员、JAIR前副主编、美国人工智能协会院士等，在机器学习与数据挖掘方面著有200多部专业著作和数百篇论文。还曾荣获SIGKDD创新大奖（数据科学领域的最高奖项）、斯隆奖（Sloan Fellowship）、美国国家科学基金会成就奖（NSF CAREER Award）、富布赖特奖学金、IBM学院奖以及多个顶级论文奖项。可以说，在数据挖掘、机器学习、人工智能这三个领域上他算是资深专家了。
本文浅谈一下读了《终极算法》书后一些心得。
我们知道，算法已经在很大程度上影响了我们的生活，比如，用户在淘宝或京东等电子商务网站购物时，这些电子商务网站用算法给用户推荐商品；大众点评网站用算法帮助用户选择餐馆；高德地图或百度地图用算法帮助用户选择最佳出行路线等等。
不同于传统的算法，当今悄然主导我们生活的是“能够学习的机器”，它们通过学习我们琐碎的数据，来执行任务；它们甚至在我们还没提出要求，就能完成我们想做的事。
当机器最终学会如何学习时，人类将会发生什么？这是一个有趣且敏感的问题，目前没有明确答案。
当前，机器学习分为五大学派，每个学派都有自己的主算法，能帮助人们解决特定的问题。而如果整合所有这些算法的优点，就有可能找到一种“终极算法”，该算法可以获得过去、现在和未来的所有知识，这也必将创造新的人类文明。
那么什么是终极算法呢？
终极算法概念：
以下内容摘自上书，有兴趣的请自行查阅原书：
“所有知识，无论是过去的、现在的还是未来的，都有可能通过单个通用学习算法来从数据中获得。我（注：该书作者）将该学习算法称为“终极算法”。如果这种算法成为可能，它的发明将成为人类最伟大的科学成就之一。实际上，终极算法是我们最不愿意发明的东西，因为一旦对其放松，它会继续发明一切有可能发明的东西。我们要做的，就是为它提供足够、适当的数据，通过这些数据，它会发现相应的知识：给它视频流，它就会观看；给它图书馆，它就会阅读；给它物理实验结果，它就会发现物理定律；给它DNA晶体学数据，它就会发现DNA的结构。”
为什么必须要了解终极算法呢？
不论你身处什么行业、做什么工作，了解终极算法都将带给你崭新的科学世界观，预测以后的科技发展，布局未来，占位未来！
机器学习5大学派：
书中写到机器学习主要有5大学派：
1）符号学派：将学习看作逆向演绎，并从哲学、心理学、逻辑学中寻求洞见；
2）联结学派：对大脑进行逆向分析，灵感来源于神经科学和物理学；
3）进化学派：在计算机上模拟进化，并利用遗传学和进化生物学知识；
4）贝叶斯学派：认为学习是一种概率推理形式，理论根基在于统计学；
5）类推学派：通过对相似性判断的外推来进行学习，并受心理学和数学最优化的影响。
5大学派各自算法特点:
1) 符号学派主要算法是逆向演绎
2) 联结学派主要算法是反向传播
3) 进化学派主要算法是遗传算法
4) 贝叶斯学派主要算法是贝叶斯推理
5) 类推学派主要算法是支持向量机
在实践中，这些算法可能在有些工作中可用，而在其他工作中不可用。书中作者真正想要寻找的是能够综合这5种算法的终极算法。虽然有些人认为这难以实现，但对机器学习领域的人来说，这个梦想赋予我们力量，促使我们夜以继日地工作。
机器学习商业用途:
如果你的主要兴趣是机器学习的商业用途，那么本书至少能通过6种方法帮助你：
1) 成为分析学中更精明的消费者；
2) 充分利用你的数据专家；
3) 减少许多数据挖掘项目的隐患；
4) 看看如果不买手写编码软件，你能让什么进行自动操作；
5) 降低信息系统的僵硬度；
6) 期待正朝你走来的新技术。
机器学习形势:
机器学习有许多不同的形式，也会涉及许多不同的名字：模式识别、统计建模、数据挖掘、知识发现、预测分析、数据科学、适应系统、自组织系统等。这些概念供不同群体使用，拥有不同的联系。有些有很长的半衰期，有些则较短。
各学派理念和问题:
1) 符号学派：所有的信息都可以简化为操作符号，就像数学家那样，为了解方程，会用其他表达式来代替本来的表达式。
2) 联结学派：大脑通过调整神经元之间连接的强度来进行学习，关键问题是找到哪些连接导致了误差，以及如何纠正这些误差。
3) 进化学派：所有形式的学习都源于自然选择。关键问题是学习结构：不只是像反向传播那样调整参数，它还创造大脑，用来对参数进行微调。
4) 贝叶斯学派：最关注的问题是不确定性。所有掌握的知识都有不确定性，而且学习知识的过程也是一种不确定的推理形式。解决的办法就是运用概率推理。
5) 类推学派：学习的关键就是要在不同场景中认识到相似性，然后由此推导出其他相似性。问题的关键是，如何判断两个事物的相似程度。
每个学派对其中心问题的解决方法都是一个辉煌、来之不易的进步，但真正的终极算法应该把5个学派的5个问题都解决，而不是只解决一个。机器学习的目标是尽可能找到最好的学习算法，利用一切可能的方法，而进化和大脑不可能提供学习算法。最重要的是，进化的产物有很多明显的错误。事实证明，要将许多不同的学习算法结合成一个并不难，利用的就是元学习。网飞奖获得者利用元学习来结合数百个不同的学习算法；沃森利用它来从备选项中选择最终的答案；内特·希尔也以相似的方式将投票与预测选举结果结合起来。这种类型的元学习被称为“堆叠”，是大卫·沃尔珀特的创见。元学习算法是“装袋”算法。 最聪明的元学习算法之一就是推进，由两位学习领域的理论家约阿夫·弗罗因德和罗伯·夏皮尔创造。
总结：
我们已经看到机器学习的五大学派、及其主要算法、各自优、缺点和商业用途等。符号学派和逆向演绎，联结学派和逆向传播，进化学派和遗传算法，贝叶斯学派和概率推理，类推学派和支持向量机。所谓的学习问题，在更基本的层面上，是个演化的问题，或者说计算的问题。学习就是你拥有的数据的数量和你所做假设数量之间的较量。作者希望提出一种终极算法，可以将这些流派综合、统一起来。就是力求在不同的知识结构中，寻求一种更基础的结构，能够统摄已知的几大结构与看法。在作者眼中，终极算法的创造将是科学历史上最伟大的进步之一，它可以通过数据学得包括过去的、现在的以及未来的所有知识，终极算法之于机器学习就像牛顿力学、粒子理论之于物理学。个人感觉，至少在未来十年内，人工智能还不会获得人类情感，只要获得不了人类情感和自主性，那就没办法实现黑客帝国中的场景，机器依然是工具。但人工智能是不可避免的未来！未来已来，你准备好了吗？
------以往文章推荐-----
机器学习
深度学习
人工神经网络
决策树
随机森林
强化学习
迁移学习
遗传算法
朴素贝叶斯
支持向量机
蒙特卡罗方法
马尔科夫模型
Hopfield神经网络
回归模型
K邻近算法
卷积神经网络
受限玻尔兹曼机
循环神经网络
长短时记忆神经网络
Adaboost算法
ID3算法
C4.5算法
CART算法
K-Means算法
Apriori算法
PCA算法
ICA算法
TD-Learning算法
Q-Learning算法
SOM算法
GBM算法
GBDT算法
EM算法
SVD算法
Autoencoder算法
DBN算法
GAN算法
多层感知器
BP算法
DRL算法
AlphaGo浅析（1）~（5）
霍夫曼优化框架
粒子群算法
ResNet模型
DenseNet模型
Xgboost算法
