好的AI模型有哪几种表现？

Q&AQ&A问答

好的AI模型有哪几种表现？

来源：CPDA数据分析师网 / 作者：数据君 / 时间：2020-11-18

直到近人工智能项目的成功还仅取决于其对公司的成果
但是新兴的行业趋势表明了另一个目标-可解释的人工智能，AI的吸引力来自消费者（乃至社会）的需求，以更好地理解AI决策的制定方式，当使用AI进行自动决策时，尤其是在偏见对个人造成不利影响的情况下，诸如欧洲通用数据保护法规（GDPR）之类的法规增加了对更多责任制的需求，什么是模型？了解如何实现AI的步是了解模型是什么以及它如何工作。

简而言之模型是一组将原始数据转换为信息的转换
通常是通过应用统计数据和微积分和线性代数等高级数学构造来进行的，AI模型与传统数据转换的不同之处在于，该模型是通过使用算法来显示历史数据的模式而构建的；这些模式构成了数学转换的基础，传统的数据转换通常是开发人员为了实现特定目的而建立和编程的一组指令和规则，由于AI模型是从拥有更多数据中学习而来的，因此可以定期重新生成它们以感知并适应与转换相关的基本行为的变化。

AI的优势之一在于创建模型的过程可以通过查看数据来识别不明显且不直观的模式
这也是它的弱点之一，因为AI通常被视为创建结果而没有解释模型中正在发生什么的黑匣子，为了实现AI，并使模型对于企业及其成员而言都是卓越的，它必须同时在三个方面实现卓越：可解释性，透明性和可证明性，可解释性AI的个宗旨是满足信息消费者的需求，以了解该模型为何生成特定预测的原因，这就要求可以从模型中追溯模型的每个输出预测，以了解生成原因的原因，而没有找到替代方法的原因。

在确定银行是否将信贷提供给客户的情况下，银行需要知道决策是什么
如果决定要拒绝消费者，那么银行就必须能够解释如何做出此决定，更重要的是，可以调整哪些因素以使该决定符合银行和银行的利益，消费者对社会而言，能够证明在做出决定时不涉及任何歧视性偏见也很重要，透明度是完全了解决策过程的能力，透明度有两个方面，首先是了解正在使用的数据，这包括数据沿袭，以便能够查看输入模型的数据来自哪个来源。

数据的来源以及数据沿袭所在的伦理意义可能对企业实现其结果的能力产生巨大影响
第二个方面是了解将数据输入从原始数据转换为预测的过程。诸如线性回归和决策树之类的某些模型更适合以一种可理解和透明的方式显示从输入到输出的路径，挑战在于对于给定的数据集或要做出的决定，这些易于理解的算法并不总是准确或有效的算法，在这里AI不仅在为特定社会提供正确模型的同时，还考虑了为改善社会而进行的取舍，终目标是可证明性，是指预测所依据的数学确定性水平，尽管这对预测模型的有效性至关重要，但可证明性通常与透明度和可解释性不一致。

近年来，由于供应无法满足大量需求，因此数据科学家的工作变得如此受欢迎
创建和验证这些模型在精神上是一项具有挑战性的工作，但如果做对的话可以带来巨大的回报，应用高级统计和数学构造来模拟机器中的智能并将其应用于大量数据需要大量的思维能力，数据科学家在工作方式上与数据分析师不同，数据科学家运用科学方法将数据转化为知识，他们通常认为结果的数学可证明性高于其他一切，另一方面，数据分析师可以分析数据并回答特定的业务问题。他们通常在寻找业务存在的答案。

数据科学家非常关注结果及其数学上的能力

以至于答案是正确的，以至于他们忽略了对信息消费者透明和可解释的需求，通常数据科学团队需要一支能够代表AI的可解释性和透明度的平衡力量，并确保随着可证明性的每次改进，其他目标也不会受到损害，不会超出可接受的水平，随着AI变得越来越普遍，将要求企业在可解释性，透明度和可证明性之间取得平衡，为了实现AI企业将必须了解模型创建过程中的决策如何影响所有三个领域以及相关的取舍，能够开发出能够实现这三个目标的模型的数据科学家将获得巨大的价值。

客服热线：400-050-6600

商业联合会数据分析专业委员会

Prev article

人工智能会杀死数据科学家吗？

返回列表

Next article

人工智能在薪酬公平中的作用？