熟悉人工智能的人都认同可解释性是其广泛应用最大障碍之一。
在各个垂直领域，企业都在努力充分利用人工智能的潜力。人工智能（AI）和机器学习（ML）系统都不透明，大多数高级AI模型都是黑盒，无法解释它们是如何做出特定决定的。数据输入，结果出来。通常情况下，也很难通过逆向工程去解释决策过程。
人工智能缺乏可解释性，会成为被企业采纳的一大障碍，特别是对人工智能缺乏认知的传统企业。通常，企业必须在法律上、道德上或实践上证明这些模型是如何做出决策的。例如执法机构使用面部识别平台。如果人工智能系统将一个人标记为嫌疑人，那么将人工智能指向此人的过程必须经得起仔细审查。
但AI可解释性阻碍采用的更常见原因还是信任问题。简单地说，许多人发现，当他们缺乏对决定他们的因素的洞察力时，很难接受人工智能得出的结果。有时，会觉得人类用户只是简单地对机器的“奇想”做出了让步。
例如当我们在某自媒体平台发布文章时，经常会看到这个提示。尽管我们发布前的智能审核中，系统并没有有关语病或错别字的提示。这常常让我们很困惑，不知道自己错在哪里。
AI信任问题也会影响企业与客户的关系。根据埃森哲(Accenture)的一项调查，“72%的高管表示，他们的组织试图通过在基于人工智能的决策和行动中保持透明来获得客户的信任和信心。”
在《2019年十大数据和分析技术趋势》报告中，将可解释的人工智能排名第四。它指出，“为了与用户和利益相关者建立信任，应用程序负责人必须让人工智能模型更容易理解和解释。”为了让人类与机器合作解决复杂问题，人工智能系统需要揭示“原因”。
先进的人工智能系统理解沟通的必要性。一些国家已经在实施透明机制。根据Gartner的说法，“例如，在数据科学和机器学习平台上的可解释人工智能，可以用自然语言根据准确性、属性、模型统计和特征自动生成模型解释。”
AI工程师认为象棋是AI开发的共同基础，因为它具有基于规则的特性。尽管人工智能在20世纪80年代末就开始超越人类，但这些系统直到最近才解释了它们的游戏策略。在此之前，最好的解释仅仅是统计数据。例如，系统可能会解释它的选择提高了胜算几率。
下一代系统模拟人类思维。它们提供的理论依据与人的基本原理差不多。它是可理解的、简洁的、可操作的、可重复使用的、准确的和完整的。
可解释的人工智能系统更好地服务于用户和技术。当用户理解了人工智能，他们可以做出自己的判断。这种交流创造了一个可以改善AI功能的反馈循环。可解释性还能增加与AI的互动，这让系统有更多学习和改进的机会。
未来人工智能平台的成功将基于透明度。这些系统必须给用户信心，特别是他们需要依靠人工智能来做决定。当我们投资人工智能系统时，我们想知道它们是如何做出判断的。平台已经通过对话层来增强AI引擎，这将提高可解释性。然后，用户对系统及其推理所考虑的变量有完全的透明性需求。
这里的价值有两方面:用户对使用人工智能更有信心，因此更倾向于依赖这项技术。但更重要的是，他们可以用自己的判断来分析机器反馈，这样就可以从机器的决策过程中学习，从而提高机器准确性。
人工智能的真正目标，不是为了颠覆人们决策，而是为了让专业人士能够扩大和提高他们的知识和业绩。可解释AI是这种关系的关键。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
林志玲：近照曝光！网友惊了：你老公对你做了什么？女神变大妈了
河南在家中被“性欺”，丈夫就坐在客厅，真相曝光令人发指
一边是年轻人四五千的工资，一边是体制内机关事业单位上万退休金
土豪不差钱？中国一气卖18艘052D，沙特12艘，另外6艘买家更意外
章莹颖去世6年后，父亲直播带货引争议，相恋8年的男友如今怎样了
邓伦：出事后首次露面，出席自己火锅店直播活动，整个人怯生生的
秦刚的苦口婆心，俄方终究没听进去，梅德韦杰夫的话，说得太满了
“食醋第一股”股价腰斩，私募大佬却在加仓，2.28亿买成二股东
中国人远赴乌克兰当雇佣兵，被俄军一枪击毙，死前仍欠百万债务
街头直击香港取消“口罩令”首日：半数市民摘下口罩，亦有人称未适应
苹果“汽车”美国上路，轮毂神似“加特林”，发光LOGO有辨识度
美国总统拜登要求调查国家实验室有关新冠病毒泄露的事件
新战机来了？歼-35舰载战斗机疑似“遮面亮相”
历史总是惊人的相似：世界秩序变革时，永远不要第一个下场
多名坐地铁女孩被当成发泄玩具，地铁“顶族”怎么会如此猖狂？！
台积电扛不住了？国资委正式表态，外媒：为时已晚
同居4年，72岁香港老戏骨李龙基迎娶36岁女友，财产全部转移女方
特斯拉潮州事故鉴定结果已出：车主不服，要求重新鉴定
马斯克即将公布宏图第三篇章 哪些点值得关注?
造车新势力2月交付量出炉：理想、蔚来过万，小鹏汽车环比增长
爱奇艺CEO承认限制投屏有失误：最开始没规划明白
有博主曝光特斯拉潮州事故EDR数据：撞车前5秒内，电门被踩死，未有效制动
专家:美方通过的4个涉台议案 对中国内政的干预很明显
致1死1伤的温州特斯拉事故司机苏醒 委托家属首次回应
校长受贿581万 为帮儿媳完成揽储任务挪用公款1600万
老板回应到非洲养鸡月薪4万：不好拿 本地人月薪几百
俄罗斯：挫败乌军袭击克里米亚计划 击落10架无人机
专家:美方通过的4个涉台议案 对中国内政的干预很明显
致1死1伤的温州特斯拉事故司机苏醒 委托家属首次回应
校长受贿581万 为帮儿媳完成揽储任务挪用公款1600万
老板回应到非洲养鸡月薪4万：不好拿 本地人月薪几百
俄罗斯：挫败乌军袭击克里米亚计划 击落10架无人机
PJ-塔克：本以为会在热火退役 说实话我不想离开热火
记者：里昂中场奥亚尔今夏将自由身加盟法兰克福，球员已通过体检
本泽马转发国家德比预热海报：自己分别与C罗和维尼修斯拥抱
莫德里奇社媒：重回FIFA年度最佳阵容让我自豪，要继续努力工作
西亚2月最佳球员候选：C罗领衔 伊哈洛、奥马尔在列
38岁女星医闹翻车！事后强调医院已道歉遭炮轰
杨幂的新电影只拍了20天 被网友吐槽挣钱太容易
38岁朱珠直播卖二手奢侈品，戴鸽子蛋戒指吸睛
韩庚卢靖姗吃路边大排档频频举杯 疑坐朋友酒驾车
美国2月制造业PMI传递的核心信息：滞胀卷土重来！
还要发力！美联储官员呼吁5%以上利率保持到明年，今年票委不排除3月加息50基点
欧洲央行官员：可能9月前达到利率峰值，市场对快速降息的预期并不明智
德国2月通胀意外加速至9.3%，德国央行行长：大幅加息、加速QT
捷途旅行者首发 提供5和7座/搭1.5T和2.0T
提供6种颜色可选 极氪ZEEKR X车身配色公布
潮州特斯拉EDR:电门100% 车主家属申请重新检测
售5.99万元起 零跑C11增程版等多款新车上市
专访｜令卓：拍《狂飙》时，我做梦都在演警察
苹果M2和酷睿i9，谁是有史以来最强大的处理器？图文对比分析
联想携多款新品集中亮相MWC2023，首款卷轴屏笔记本很抢眼
NVIDIA“视频DLSS”技术上线K高清
戴尔推出XPS PC 8960：最高酷睿 i9-13900K和英伟达RTX 4090 GPU
