您当前的位置 :北仑信息网 > 时政 > 金参考数据也能投毒它会在不知不觉中威胁我们的安全

金参考数据也能投毒它会在不知不觉中威胁我们的安全



参考新闻网11月14日报道在今年的乌镇互联网大会上,一位互联网公众表示,人工智能产业的发展需要警惕“数据中毒”的风险。对于普通大众来说,“数据中毒”仍然是一个新概念。但对于网络安全从业者来说,数据中毒已经是一个真正的威胁。一旦数据中毒导致人工智能程序的致命错误判断,损害甚至会带来比实际中毒更大的风险。

对于人类而言,计算机存储的数据只是一堆难以理解的数字,但对于计算机而言,这是学习,判断和行动的唯一标准。数据的价值在于其完整性,隐私性和可用性。如果数据不完整或相互矛盾,计算机将在操作中出现错误,停机或系统混乱。 “数据中毒”主要针对数据攻击的完整性,试图通过“打磨沙子”并在数据中添加“有毒”数据来实施网络攻击。

一般来说,人工智能“数据中毒”有两种方式:第一种攻击方式采用“模型倾斜”方法,主要攻击目标是人工智能学习训练的数据样本。在这种类型的攻击中,黑客将系统地攻击人工智能程序收集的一系列数据和网站,篡改相关数据和参数,并导致人工智能程序捕获的数据出现偏差。由于这种偏差,人工智能所依赖的学习模型将显得“倾斜”,无法获得正确的学习和认知结果。这种方法就像是一个观看大量假彩票奖金的情况,这使得这个人错误地认为这个小概率事件是一种普遍现象。攻击者可以通过操纵倾斜的方向来操纵人工智能。

中国青年网