直到忘记学习系统有能力,我们需要重置按钮,这是不可持续的。
有很多最近谈论正确的被遗忘,或数据隐私权。这些要求企业持有的数据我们正常请求时删除它。这可能是数据收集我们浏览互联网,或从网上购物。或者我们收集的是开车过去的摄像头,GPS跟踪我们的手机或者其他方式——其中一些我们甚至不知道。
当被要求删除数据,公司经常抗议,这任务太困难,他们是对的。然而,这并不意味着他们可以保持设计的系统不提供这个基本功能。如果他们做不到10年后,那是因为他们选择忽视这个问题。我个人知道,如果有人要求我删除所有的记录特定的数据,这将是一个艰巨的任务。即使我有备份系统,保留文件删除,以防他们删除是一次意外。我有镜像的数据在多个机器。我有黑存储,确保即使有人试图攻击我,他们不可能得到所有的文件副本。我也许能消除它最终,但问题是一切社会设置保存数据,不要删除它。
如果数据可以成功删除,仍存在许多问题。数据成为我的一部分知识集,我一定用过其他一些我创建的文档。衍生著作并不依附于原始来源,除非你是放在一起是同行评议的文章,或者需要引用的所有引用。即使你做了跟踪使用每一块数据,它仍住在你的心里。
人类思维不能摧毁并重新培训。我们不知道如何做到这一点。在未来,你可以创建一个从内存的信息,或者你可以从那块的数据,并使用它创建其他东西没有它就不会存在。这一直是一个问题,当一个员工离开公司,加入了竞争对手。他们可以携带多少信息呢?和如何防止机密信息被用于提高竞争对手的产品——即使无意中做了什么?
但这有另一个层面,AI。如果数据被用来训练系统,如何将数据从它学到的东西没有重置为零,这样做,除了一块数据的删除?这将是非常低效的,鉴于今天训练消耗巨大的力量,它不是一个可持续的未来战略。
存在同样的问题,当试图整合功能验证的AI系统,解决一些方面的问题,如决定哪些应该运行测试点和顺序。略有不同,你不要求数据被删除,但有派生数据,已成为无效的每次设计更改。包括数据会导致不正确的行为,或可能导致验证过程效率较低。
发生更改时,设计,验证信息已失效?显然,覆盖率数据受到影响,而且每个测试的有效性可能已经改变了。你不再知道哪些测试将提供有意义的数据,你不会知道,直到一切都重做。同样,你不再知道开关的工具将提供最好的结果,甚至使结果能够被发现。
当我听业内大多数人谈论这个,很明显他们没有一个真正的答案,或不完全理解这个问题。他们只是认为你可以继续前进,然后在某一时刻你按下复位按钮,回忆所有的数据。但即便如此,他们继续使用一些信息从过去以尝试和改进的速率将收集新信息。只要它只是用于排序,最糟糕的事情是,结果收集慢于预期。但你必须确保没有失效数据可以找到自己的方式回到系统。
功能验证的最佳解决方案是找到一种方法,直接设计的关系方面的测试,应该是能够激活那一块的设计。这将解决许多问题对整个验证流程,但目前尚不清楚,有人真的想解决这个问题。需求跟踪系统可能是起点,试图记录下他们的这种关系。
|
|
|
|
|
|
|
|
留下一个回复