认知偏差怎样影响AI?

　　对人类认知最基本层面的研究，称为基本认知加工，也称为认知科学。心理学、神经学和认知神经科学是认知科学的主要研究领域，其的很多发现对AI有着重要的应用，即机器学习学科。

　　有趣的是，神经生理学和微观测绘的研究支持这样一个观点:复杂的心理操作可以在系统层面上解释。AI系统以多种方式运作，就像我们大脑的简化版。

　　AI每天都在变得更加智能。假如AI达到与人类相似的智力水平，其将受到与人类相同的限制。人类对人类层次认知的解释和形成使AI系统在机器学习中的计算复杂化。直觉和大脑研究的原理表明，人们在表达事实之前就有特定的解释偏好。但假如我们过度依赖AI，就有可能会低估人类行为的重要性。另外，即使AI系统在以无数种方式改进，我们仍然不完全了解人类怎样在这些领域完成类似但更困难的任务。即使我们试图定义什么是“人”，区别也变得愈来愈模糊。

　　可用性启发法断言，人们通常更依赖于确认他们当前想法的数据，当其触及到AI选择时，是一个显著的认知偏差。当面对相互冲突或模棱两可的数据时，我们通常倾向于对给定证据做出最相关或最符合逻辑的解释。这种策略在某些情况下可能有效，但在很多情况下，可能会招致无法打破的失败循环。当算法严重依赖启发式进行决策，并最终依赖于无关或过时的信息时，就会发生内存泄漏。这就是一个典型的例子。

　　人类在做决定时更喜欢使用启发式方法，这很容易观察，但这些偏见是自动的和无意识的，使之难以识别。我们有充分的理由认为，自狩猎采集文化的时代以来，人类在日常生活中就一直在运用偏见。人类今天拥有的很多技能，譬如语言和数学，都是在各种学习策略的帮助下获得的，譬如镜像。学习信息并不难，我们的大脑可以迅速解码。

　　断言偏见在人类决策中仍然起着很小的作用是不正确的。尽管不断开发改进的过滤方法，但如今还没有一个解决AI进步的单一方案。我们知道AI和人类的思想都很容易出错。这意味着，任何AI系统都不会在任何计算中完全取代一个人，无论神经网络在预测下一步行动过程中的发展程度怎样。

　　考虑到认知偏见根植于人类本性，不太可能消失，AI系统将需要考虑它们。完美的AI系统是无法制造出来的。如今正在使用的方法只能加强、优化和改进，同时使系统的其他部分具有类似于人的质量。越是了解认知偏差，就愈能有效地使用机器学习和AI。

　　图片使用申明：原创文章图片源自‘Canva可画’平台免费版权图片素材；引用文章源自引用平台文章中所使用的原图。