人工智能视觉，就像用人工智能进行图像处理一样，是一个高度讨论的话题。然而，这种复杂的新技术的潜力还没有在某些领域找到应用，如工业应用；因此，长期的经验值是有限的。
图片来源：IDS Imaging Development Systems GmbH
尽管市场上有许多允许在工业环境中使用人工智能的嵌入式视觉系统，但许多设施运营商仍在犹豫是否要投资这些平台之一并更新其应用。然而，人工智能已经展示了创新的可能性，在基于规则的图像处理已经没有选择，缺乏解决方案的地方。因此，问题是，是什么阻碍了这项新技术的广泛采用。
阻碍技术的主要因素之一是被称为 "用户友好性 "的障碍。任何人都应该能够创建自己的基于人工智能的图像处理应用程序，即使他们缺乏人工智能和应用程序编程方面的专业知识。虽然人工智能可以加快各种工作流程并减少错误来源，但边缘计算可以消除昂贵的工业计算机和高速图像数据传输所需的复杂基础设施。
新的和不同的
然而，人工智能或机器学习（ML）的运作方式与传统的、基于规则的图像处理相当不同。这对如何接近和处理图像处理任务有影响。
结果的质量不再像以前那样由图像处理专家手动生成的程序代码控制，而是由采用足够图像数据的神经网络的学习过程控制。
换句话说，必须检查的物体特征不再由指令预先定义，而是必须通过训练过程教给人工智能。此外，训练数据越多样化，人工智能/ML算法就越有可能识别出以后操作中特别相关的品质。
有了足够的知识和经验，看似简单的事情也能达到预期的目标。如果用户对相关的图像数据没有经过训练的眼睛，这个应用就会出现错误。这意味着使用机器学习方法所需的能力与基于规则的图像处理所需的能力不同。
此外，不是每个人都有时间或资源来从底层潜入这个主题，并发展一套新的基本技能来处理机器学习方法。新技术的最大问题是透明度。如果它们能以较低的努力提供出色的结果，但却不能轻易检查，例如通过审查代码，那么就很难相信和信任这样的系统。
复杂且被误解
逻辑思维表明，人们可能有兴趣了解这种 AI 视觉是如何工作的。然而，如果没有明确理解的可靠解释，评估结果是困难的。获得对新技术的信心通常建立在必须随着时间的推移积累的技能和经验之上，然后才能了解技术可以实现的全部潜力、它如何工作、如何应用它以及如何适当地管理它。
让事情变得更具挑战性的是人工智能愿景正在与一个既定系统竞争的概念，近年来通过知识、培训、文档、软件、硬件和开发环境的实施，已经为此创造了必要的环境条件。
缺乏对算法内部工作原理的清晰洞察，以及难以理解的结果，是阻碍其扩展的另一面。
（不是）黑匣子
神经网络有时会被误解为一个无法理解判断的黑匣子。
尽管 DL 模型无疑是复杂的，但它们并不是黑匣子。其实，叫它们玻璃盒子更准确，因为我们可以从字面上看里面，看看每个部件在做什么。
机器学习中的黑匣子隐喻
神经网络推理决策不是基于一套传统的规则，它们的人工神经元之间的动态相互作用起初可能对人类来说具有挑战性，但它们仍然是数学系统的明确结果，因此可重现且易于解释。
目前缺乏的是促进适当评估的必要工具。人工智能的这个领域有很多进步的机会。这也显示了市场上可用的不同人工智能系统如何帮助用户实现他们的目标。
软件让人工智能变得可解释
IDS Imaging Development GmbH 专注于开发这一领域。IDS NXT 推理相机系统就是这样的成果之一。使用所谓的混淆矩阵进行统计调查可以构建和解释经过训练的神经网络的整体质量。
在训练过程之后，可以使用先前确定的一组具有已知结果的图像来验证网络。在表格中，比较了预期结果和通过推理获得的实际结果。这解释了测试对象被成功或错误识别为每个训练对象类别的频率。随后可以根据生成的命中率提供经过训练的算法的一般质量。
此外，该矩阵清楚地说明了识别精度在哪些方面可能仍不足以满足生产应用。但是，它没有对这一结果提供详细的解释。
图 1.分类螺丝的混淆矩阵显示了可以通过使用更多图像进行再训练来提高识别质量的地方。图片来源：IDS Imaging Development Systems GmbH
在这种情况下，注意力图很有用，因为它显示了一种热图，指示神经网络关注并用于指导决策的区域或图像内容。
这种可视化形式贯穿于 AI VisionStudio IDS NXT 灯塔的整个培训过程，与整个培训过程中建立的决策路径相关；这使网络能够在分析仍在进行的同时从每个图像构建热图。
这表明人工智能的基本或无法解释的行为更容易掌握，从而促进工业环境中对神经网络的更大接受度。
它还可用于识别和消除数据偏差，这些偏差会导致神经网络在推理过程中做出错误的决定（见图“注意力图”）。
糟糕的输入导致糟糕的输出。人工智能系统识别模式和估计结果的能力取决于获取相关数据，从中可以学习“正确的行为”。
如果 AI 在实验室中设计时使用的数据不是未来应用的典型数据，或者更糟的是，如果数据中的模式暗示存在偏差，则系统将获取并应用这些先入之见。
图 2.此热图显示了典型的数据偏差。热图显示了对香蕉的 Chiquita 标签的高度关注，因此是数据偏差的一个很好的例子。通过香蕉的虚假或代表性不足的训练图像，所使用的 CNN 显然了解到这个 Chiquita 标签总是暗示香蕉。图片来源：IDS Imaging Development Systems GmbH
软件工具允许用户追踪 AI 视觉的行为和结果，并将其直接关联回训练数据集中的弱点，并根据需要以有针对性的方式进行调整。这使得每个人都更容易理解和解释人工智能，因为它本质上只是统计和数学。
理解数学并在算法中理解它并不总是那么简单，但是像混淆矩阵和热图这样的工具可以使决策和对决策的解释可见并因此易于理解。
这只是开始
人工智能视觉在有效使用时能够增强各种视觉过程。然而，仅靠硬件和软件不足以让行业拥抱人工智能。制造商经常被要求以用户友好的软件和指导个人的内置程序的形式分享他们的知识。
人工智能要赶上基于规则的成像应用领域的最佳实践还有很长的路要走，这是多年努力和应用的结果，通过广泛的文档、知识转移和多种软件建立忠实的客户群工具。好消息是，此类人工智能系统和支持工具已经在开发中。
目前还正在建立标准和认证，以提高可接受性并使理解 AI 变得足够简单以呈现在大桌子上。IDS 正在为此提供协助。
借助 IDS NXT，任何用户组都可以快速有效地将集成 AI 系统用作工业工具——即使没有广泛了解图像处理、机器学习或应用程序编程。
