人工智能之AI容易产生偏见
前言：据外媒报道, 卡迪夫大学和麻省理工的计算机科学和心理学专家表示，基于对人类公共信息的学习，人能系统中某些类型的计算机算法已经表现出种族主义和性别歧视现象。专家在数千次模拟中发现，这种偏见很容易在不同人工智能系统间传递，通过简单识别、复制表现出同样的歧视。
不仅人类和动物能够对外界和环境存有偏见，来自卡迪夫大学和麻省理工的计算机科学和心理学专家发现，人工智能机器人同样可以通过相互学习来产生偏见。种族主义机器人的崛起：人工智能能够很快地发展自己的偏见。专家发现机器组通过互相模仿来学习偏见。
某些类型的计算机算法已经表现出种族主义和性别歧视。这是基于人类公众信息的记录和人类产生的数据的学习。
这项新的研究表明人工智能可以自行进化成有偏见的群体。一组自主的机器仅仅通过相互识别、复制和学习这种行为就表现出了偏见。
最新的发现是基于计算机模拟AIS，或虚拟代理，形成一组，并相互作用。最新研究显示，机器人可以教会自己如何对待其他形式的生命，包括人类，比自己价值更低。专家说，对他人的偏见并不需要很高的认知能力，而且很容易通过人工智能机器表现出来。这些机器可以互相教对方排除他人的价值。
似乎偏见是一种特定于人们的现象，它需要人类认知来形成对某个人或群体的观点或刻板印象。
但是，一些类型的计算机算法已经显示出偏见，如种族主义和性别歧视，基于学习公共记录和人类产生的其他数据。最新的研究证明了人工智能能自行进化成有偏见的群体的可能性。
为了确定人工智能是否能够独自获得偏见，科学家们进行了一个仿真，看到机器人参与到给予和接受的游戏中。在游戏中，每个个体都作出决定，决定是捐钱给自己群体中的某个人，还是捐钱给另一群人。游戏测试一个人的捐赠策略——检查他们对外界的偏见程度。随着游戏的展开和超级计算机上千的模拟，每个人开始学习新的策略复制他人-无论是在他们自己的小组或整个人口。然后这些机器可以互相教导其他人排除在他们群体之外的价值。这些新发现是基于对AI，或虚拟代理，如何组成一个群组并且彼此交互的计算机模拟（股票图像）。
卡迪夫大学计算机科学与信息学学院的罗杰·惠特克（Roger Whitaker）教授是该研究报告的合著者，他说，“通过反复进行几千次模拟，我们开始了解偏见是如何演变的，以及促进或阻碍偏见的条件。我们的模拟表明，偏见是自然界的一种强大力量，通过进化，偏见很容易在虚拟群体中受到激励，从而损害了与他人的广泛联系。保护不受歧视群体影响可能无意中导致个人进一步形成歧视群体，导致人口分裂。这种广泛的偏见很难扭转。这些发现涉及个人通过优先复制那些获得更高短期回报的信息来更新他们的偏见水平，这意味着这些决定不一定需要先进的认知能力。”
惠特克教授补充说，“将来具有识别歧视和复制他人的能力的自治机器可能容易受到我们在人类群体中看到的偏见现象的影响，这是可行的。我们看到的许多人工智能发展都涉及自主和自我控制，这意味着设备的行为也受到周围其他设备的影响。车辆和物联网是最近的两个例子。我们的研究给出了一个理论上的见解，其中模拟代理周期性地调用其他资源。这项研究的另一个有趣发现是，在特定条件下，偏见更难把握。”
惠特克教授最后说，“随着亚群体数量的增加，非歧视性团体的联盟可以在不受剥削的情况下进行合作。这也减少了他们作为少数群体的地位，减少了对偏见的敏感。然而，这也需要代理人有更高的倾向于在团队之外进行互动的情况。”
这项研究的全部结果发表在《科学报告》杂志上。
------以往文章推荐-----
机器学习
深度学习
人工神经网络
决策树
随机森林
强化学习
迁移学习
遗传算法
朴素贝叶斯
支持向量机
蒙特卡罗方法
马尔科夫模型
Hopfield神经网络
回归模型
K邻近算法
卷积神经网络
受限玻尔兹曼机
循环神经网络
长短时记忆神经网络
Adaboost算法
ID3算法
C4.5算法
CART算法
K-Means算法
Apriori算法
PCA算法
ICA算法
TD-Learning算法
Q-Learning算法
SOM算法
GBM算法
GBDT算法
EM算法
SVD算法
Autoencoder算法
DBN算法
GAN算法
多层感知器
BP算法
DRL算法
AlphaGo浅析（1）~（5）
霍夫曼优化框架
粒子群算法
ResNet模型
DenseNet模型
Xgboost算法
长按下放图片，识别图中二维码，关注“科技优化生活”公众号，谢谢！
