对于大多数据分析师来说不与算法进行交互就不可能花费任何时间

我们进行的每项在线搜索，我们审查的每份履历表以及我们滑动的每一个潜在约会对象都支持算法，这意味着它们对我们感知和体验世界的方式具有重大影响，算法使我们能够完成前几代人梦寐以求的事情，但是他们的普遍存在也会导致严重的社会后果。

算法采用社会的不公正意见

将算法视为不受人为意见和意见的腐败影响的客观，公正的结构是很诱人的，但是这种情况很少，由于算法是人为设计的，并且越来越多地通过观察人的行为来学习，因此算法倾向于采用开发人员和整个社会的意见，近年来“算法偏差”现象以多种令人不安的方式表现出来，求职平台采用的算法已显示出比女性候选人更频繁地推荐男性候选人担任行政职务，从而使基于性别的就业歧视长期存在，一位研究人员发现，在线搜索与社区相关的名字的可能性要高出25％，这表明广告暗示该人有犯罪背景-不管这种暗示是真的。

在某些情况下偏差算法的后果甚至更为严重

在确定是否应批准个人贷款申请的算法中也发现了类似的偏见，这些决定对人们的生活造成了严重影响，并且受到算法的影响，这些算法将使（而不是减轻）不公正的偏见化。

面对自己的偏见

归根结底我们必须面对这样一个事实，算法偏差通常反映出社会的偏差，算法可以是一面黑暗的镜子，可以反映我们自己的有意识和无意识偏见。在个人层面上，这可能会产生一个反馈循环，不断加深我们的偏见，而不是挑战他们，从而降低我们同情与我们自己观点和想法的人的能力，这种现象具有严重的社会后果。

算法偏差非常危险部分原因是我们很少看到它的到来

是时候开始以与人类演员相同的审查水平来对待算法了，而且至关重要的是，数据分析师必须认真检查自己和社会的意见，以便他们可以纠正算法设计中的不公正建议。