互动和优化使它更难确定当系统将会失败,甚至失败的真正含义。
人工智能能做许多事情,但如何确保正确的事情一点也不清楚。
这源于这样一个事实,AI / ML / DL系统构建适应和自优化。适当调整权重,训练算法可以用来确保这些系统不会得太远的起点。但如何测试,在实验室里,工厂和现场远不明显。
直到最近,大部分工作涉及人工智能都集中在提高这些系统的性能和精度。他们将工作在一个可接受的分布范围内,这基本上是设置参数为“正常”的行为。这是类似于汽车发动机温度测量。有时它运行热或冷比在其他时候,但只要是绿色的,没有理由把车停在路边。
AI系统所面临的挑战在于,你不能告诉他们打开后发生了什么。你可以测量热量和电活动,但是你具体不知道发生了什么在包里面。几乎有无限可能的交互和排列,和所有的不透明。一旦系统上线,没有办法确定它将如何表现。
这种不确定性加剧,更多的系统交互,如机器学习从其他机器。但是现在,而不是单一设备的参数可接受的行为变得更加阴暗。芯片世界是用来思考依赖固定的条件。“如果这样,那么。“随着人工智能,这些交互是模糊的,因为这些都是分布。所以它变成了‘如果约,然后可能。”和一个系统的准确性越低,精度越低,以及不确定任何相互作用的结果。
预测行为仍然变得朦胧起来更新添加到这些系统。这些可以从软件和固件更新在系统的其他部分,可以改变性能,权力和热梯度,新算法在人工智能系统或系统的系统。所以即使很明显他们单独的行为,未来最大的挑战将是他们在一起是如何表现的。修改一个算法可以改变系统中的数据流,强调系统的不同部分以不同的方式,在不同的时间。
在某些情况下,这正是问题的关键。如果你的电话不工作,你需要能够对光信号同样的方式你可以ECC内存,额外的记忆细胞是用来保持系统的行为。所不同的是,在人工智能系统,路由是难以预测的。这些系统应该适应任何最优为特定用户或设备或应用程序,所以每个系统会调整自身最优能耗性能或基于内部变化。
这使得它几乎不可能预测系统行为,这使得它更难确定系统在使用时的问题。至少在理论上,每个系统应该达到足够的水平的性能和动力,继续在设定的参数设计团队的行为。一些电路年龄会比其他人快,在某些用例系统的某些部分可能会比别人更强调。
未来的挑战将是构建工具和系统,既能测量和预测所有可能的排列,并构建传感器和分析系统,至少可以给工程师一些硬件是如何表现的。整个行业推进非常阴暗的领土,就好了,至少有一个手电筒。
留下一个回复