正在阅读: 算法界上演“猫鼠游戏”连续剧
首页> 科技频道> 人工智能 > 正文

算法界上演“猫鼠游戏”连续剧

来源:科技日报2019-07-03 09:17

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  图片来自网络今日视点

  医疗手术、无人驾驶、围棋对弈、随手可用的翻译……近十年来,人工智能(AI)取得了巨大进步。而这,要得益于人工神经网络的发展。

  这一神经网络的模式,效仿的是我们人类的大脑,在大规模应用时,也被称为深度学习,其能够自己发现数据的模式,而无需明确指令。

  深度学习虽然可以在大数据训练中学到正确的工作方法,却也很容易受到恶意干扰。攻击者们通常会通过输入恶意数据来欺骗深度学习模型,导致其出现严重故障。

  面对恶意算法欺骗,人工智能如何反击?英国《自然》网络版日前的报道称,现在,计算机科学家正在多方寻找对策,以便让人工智能更安全。

  AI:我因“学习”而受伤

  “学习”,是人工智能的核心,也是使计算机具有智能的根本途径。

  深度学习的主旨,是让计算机去模拟或实现人类的学习行为,以获取新的知识或技能,并重新组织已有的知识结构,使之不断改善自身的性能。

  但同时,深度学习算法的不可预测性,使其需要不断挖掘。

  对于家庭和个人手机来说,虚拟智能化助理的应用越普遍,恶意攻击就越可能随时发生。有些信息眼看、耳听都没有问题,却能“暗藏杀机”——隐藏着劫持设备的指令。

  举例来说,人工智能“看”图像的模式,和人类的肉眼大不一样。通过微妙改变图像的某些部分,再输入后的图片即使肉眼看来一模一样,计算机看起来却大不相同。这就叫对抗性示例。

  除了图像,声音也会有同样的问题,只要修改了一个语音片段,人工智能就可能修改成完全不同的语音指令。

  无需隐身,也能抓住攻击者

  不过,在不久前召开的国际学习表征会议(ICLR)上,美国伊利诺伊大学香槟分校的计算机科学家拿出了一种对抗攻击的方法。

  他们编写的算法可以转录完整的音频以及单个片段。如果单个片段转录出来和完整音频中的对应部分不完全匹配,那么算法会立即用一面小红旗做出标记,表明音频样本可能已遭攻击。

  在攻击测试中,面对几种不同类型的修改,该算法几乎都检测到了异常情况。此外,即使攻击者已经了解到有防御系统的存在,大多数情况下还是会被抓住。

  这套算法拥有令人惊讶的稳定性。谷歌大脑团队的科学家尼古拉斯·卡林尼评价称,其最具吸引力之处在于它的“简单”。另有与会专家认为,随着对抗性攻击越来越常见,谷歌助手、亚马逊和苹果等服务,都应当应用这种防御系统。

  然而,攻击和防御之间,注定是一场持久的“猫鼠游戏”。卡林尼表示:“我毫不怀疑有人已经在研究如何攻击这种防御系统了。”

  提前演练,对攻击免疫

  也有的研究团队在另辟蹊径。

  就在本周,澳大利亚联邦科学与工业研究组织下属团队公开了一套算法,其通过效仿疫苗接种的思路,帮助人工智能“修炼”出抗干扰能力。

  所谓“疫苗算法”,就是在识别图片时,能够对图片集合进行微小的修改或使其失真,以激发学习模型“领会”到越来越强的抗干扰能力,并形成相关的自我抗干扰训练模型。经过此类小规模的失真训练后,最终的抗干扰训练模型将更加强大,当真正的攻击到来之时,机器学习模型将具备“免疫”功能。

  这其实是针对深度学习模型专门打造的训练。因为它会“学习”,所以也会学着纠错。

  邮件过滤器:效果不尽人意

  邮件过滤器真的已经很努力了,但效果并不尽如人意。

  这是因为防御与攻击总是相伴相生。随着漏洞越来越多的被察觉,人工智能拥有更多的防御能力,恶意攻击也在不断进阶。

  在4月召开的美国系统和机器学习大会(SysML)上,德克萨斯大学奥斯汀分校的计算机科学家们揭示了机器学习算法在文本理解方面的漏洞。

  有些人认为文本不容易被攻击,因为恶意欺骗可以对图像或声音波形进行微调,但改变任何文字都会被察觉。可科学家告诉我们不是这样。

  恶意攻击会瞄准一些同义词,文本含义不发生改变,但深度学习算法却可能因此而判断错误——垃圾邮件成了安全的,假新闻被合法推送。

  科学家们演示了一套恶意攻击程序,它甚至会检测文本分类器在判断是否含有恶意时,最依赖的是哪些词语。接着,它挑选出关键词的同义词,替换,然后飞速开始测试下一个关键词。在这套算法攻击下,过滤器的准确率急剧下降。

  不过,将这些手段公诸于众,究竟可以提高防御能力,还是会加剧攻击手段,目前仍有争议。此前,已经有AI实验室拒绝公开一种攻击算法,因为担心它被滥用。

  (记者 张梦然)

[ 责编:赵宇豪 ]
阅读剩余全文(

相关阅读

您此时的心情

新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 世界海拔最高综合海洋馆西宁开馆

独家策划

推荐阅读
美国斯坦福大学等机构研究人员最新开发出一种只有10个原子厚度的隔热材料,比现有手机和笔记本电脑的隔热材料薄5万倍,隔热效果与厚度为其100倍的隔热玻璃相当。
2019-08-19 10:45
美国食品和药物管理局16日批准了一种治疗青少年及儿童特发性脊柱侧凸的脊柱栓索器械,矫正无法通过外部支撑等保守性方法治疗的脊柱侧凸。
2019-08-19 10:22
英国布里斯托尔大学和瑞士先正达公司的研究人员日前在英国《自然·通讯》杂志上发表报告说,他们发现,除草剂草甘膦引起的植物组织死亡或生长放缓,取决于用药时间以及植物自身的生物钟。
2019-08-19 10:15
墨西哥几名大学生最新研发出一款可在岸边清理海藻的环保电动车,用以缓解加勒比海沿岸海藻泛滥的问题。
2019-08-19 10:12
18日,世界海拔最高的大型综合海洋馆在高原古城西宁正式对外开放,开馆当天就吸引了8000多市民前来观赏。
2019-08-19 10:11
正式开工建设。“凭借这些大科学装置,怀柔科学城将形成定位清晰、高度密集、先进高端的设施平台集群,为原始创新提供坚实支撑。
2019-08-19 09:39
我国“三极遥感星座观测系统”首颗试验卫星——冰路卫星(又名“京师一号”)近日已在深圳包装入箱,预计今年9月发射升空。
2019-08-19 09:37
8月17日,国家卫健委国际交流与合作中心与中国生物医学工程学会医学物理分会联合主办首届医学物理促进医疗器械行业发展论坛。
2019-08-19 09:36
8月17日12时11分,由北京国电高科科技有限公司研制的天启·沧州号卫星由首次发射的捷龙一号商业火箭成功送入太空。该卫星是天启星座的第3颗业务星。
2019-08-19 09:34
枸杞给人的印象通常是红色,偶有黑色,这种惯常思维日前被打破。其中,紫色枸杞“杞鑫3号”由于果味浓香,最具特色,杞鑫合作社还向国家林业和草原局申请了植物新品种保护。
2019-08-19 09:33
经过半个多月的海洋科考和教学航行之后,来自中国厦门大学的“嘉庚”号海洋科考船17日至18日在马来西亚巴生港举行公众开放日活动,吸引了近千名当地民众到访参观。
2019-08-19 09:31
NOAA表示,今年7月气温飙升到了新高,地球上大部分地区都处于前所未有的高温之中,创纪录的温暖也使北极和南极的海冰缩小到历史最低点。
2019-08-19 09:31
中央生态环境保护督察组18日通报,中国化工集团贵州天柱化工有限公司环境违法问题和环境风险隐患严重,对待第一轮中央环境保护督察及“回头看”指出的问题,敷衍应对,虚假整改。
2019-08-19 09:30
伊迪斯·考恩大学医学与健康学院的研究人员分析了来自丹麦的一个饮食、癌症和健康小组的数据。这项研究指出,每天摄入类黄酮总量约500毫克的研究对象,罹患癌症或心脏病的风险最低。
2019-08-19 09:30
这个可穿戴机器人重量5千克,对人体来说,依然是个不大不小的负担,期待继续优化,研发出性能更强、重量更小的产品。
2019-08-19 09:29
美国物理学家发现了一种新的物质形态——拓扑超导态。在新研究中,沙巴尼团队分析了量子态从传统状态到一种新的拓扑状态的转变,测量了这些状态之间的能量势垒,也直接测量了这个转变的特征。
2019-08-19 09:28
7月份新能源车产销出现负增长原因有三,首先是补贴退坡使得消费出现观望情绪,其次是进入销售淡季市场不活跃,再次是车企调整了生产节奏为“金九银十”提前蓄力。上一次新能源汽车产销量负增长还要追溯到2017年1月份,那次也是因为业界预期补贴政策将要调整而出现观望情绪。
2019-08-16 09:56
汹涌澎湃的互联网几乎改变了中国人生活的一切,“重口味”的重庆餐饮也涌入了这场洪流,众多餐饮店在互联网的海洋乘风破浪。“李子坝梁山鸡”应运而生,并注册了一系列知识产权,创业者重新设计了品牌的视觉识别系统,梳理了品牌的发展历史,内容生动且具有细节。
2019-08-16 09:54
这是8月14日无人机拍摄的三桥湿地公园景色。江苏南京雨花台区辖区内的三桥湿地公园毗邻南京长江第三大桥,共栽植大小乔灌木20多个品种,10万多株,时下绿树成荫,生态林将江滩坡地与水体有机融合,成为一处集植物观赏、生态科普、候鸟栖息、步道游览于一体的休闲好去处。
2019-08-16 09:50
这3个新品种分别是橘红灯台报春和霞红灯台报春的天然杂交后代“红粉佳人”和“金粉佳人”,以及茴香灯台报春与海仙花的天然杂交后代“白水紫霞”。该团队以极小种群野生植物茴香灯台报春与广布种海仙花的天然杂交区为研究对象,探讨了自然杂交与极小种群形成与维持的关系。
2019-08-16 09:44
加载更多
菲律宾申博开户合作登入 菲律宾申博在线登入官网 申博官方唯一正网登入 菲律宾申博太阳网城上娱乐 菲律宾申博服务网登入
菲律宾网上电子游戏娱乐开户 博彩公司评级网登入 太阳城官网网址 申慱现金网官网登入 申慱太阳城会员开户
澳门网络搏彩 申慱娱乐网开户直营 澳门新金沙线上平台 足球外围有哪些网站 33psb.com注册登入
菲律宾申博线上游戏代理 澳门金沙国际娱乐 申博百家乐游戏中心登入 www.suncity88.com 申博bbin亚游官方网址