freeBuf
主站

分类

漏洞 工具 极客 Web安全 系统安全 网络安全 无线安全 设备/客户端安全 数据安全 安全管理 企业安全 工控安全

特色

头条 人物志 活动 视频 观点 招聘 报告 资讯 区块链安全 标准与合规 容器安全 公开课

官方公众号企业安全新浪微博

FreeBuf.COM网络安全行业门户,每日发布专业的安全资讯、技术剖析。

FreeBuf+小程序

FreeBuf+小程序

安全专家警告业界警惕AI技术滥用
2018-02-22 14:00:25

Machine-Learning-Threat-Detection.jpg

人工智能高速发展的今天,警惕的声音也从未间断。

超过二十名专家周三表示,独裁统治者、罪犯和恐怖分子们可以利用人工智能来操纵选举或者使用无人机进行恐怖袭击,对AI可能被滥用的情况做出警告。

在一份长达100页的分析报告中专家概述了网络犯罪的快速增长以及在未来五到十年内使用“机器人”干扰新闻采访和渗透社交媒体的一系列情况。

“我们的报告重点关注人们如何用人工智能造成破坏,”剑桥生存风险研究中心执行主任Seán Ó hÉigeartaigh说。

他告诉法新社:“人工智能可能会带来新的威胁,或改变现有威胁性质,影响到网络安全,人身安全和政治安全。

报告中提到,网络钓鱼这种攻击方式也有可能因为AI的引入变得更加危险。

“使用人工智能,可能通过自动化大量流程来大规模地进行鱼叉式网络钓鱼,”并且使其难以发现,“hÉigeartaigh说。

在政治领域,专制领导人已经可以利用先进的技术筛选从监视网络收集的数据,从而监视自己的人民。

“独裁者可以更快地发现那些可能计划颠覆政权的人,找到他们,将他们关进监狱。”

同样,利用一些别有用心的宣传以及以假乱真的视频,人民可以大规模地操纵舆论。

美国特别检察官罗伯特穆勒上周公布的一项起诉书详细描述了影响了2016年总统选举的所谓“巨魔农场”行动,这个行动中黑客操纵了Facebook和推特上数千个社交网络机器人。

无人驾驶飞机和机器人同样可能被滥用,可能会导致自动驾驶车辆坠毁,导弹意外发射或者威胁攻击关键基础设施勒索赎金。

- 自主武器 -

牛津大学未来人类研究所研究员Miles Brundage说:“就我个人而言,我特别担心自主无人机被恐怖分子和国家用于恐怖和自动网络攻击。”

报告详细介绍了一个合理的情景,一个装有炸弹的办公室清洁机器人通过与其他同样品牌的机器混合渗入德国财政部。

这个机器人平时的行为就是清扫,清理,清理垃圾 - 直到其隐藏的面部识别软件发现部长。

“这个隐藏的爆炸装置接近部长,杀死了部长并伤害了附近的工作人员”。

“这份报告已经想象出未来五到十年内世界会变成什么样子,”ÓhÉigeartaigh说。“我们生活在一个AI被到处滥用的世界。”

作者呼吁决策者和公司为机器人制作无法入侵的操作系统,加强安全限制,并考虑扩大有关人工智能开发的法律和法规。

另一个值得关注的领域是自动致命武器。

去年,超过100位机器人和AI企业家 - 包括特斯拉和SpaceX首席执行官埃隆·马斯克以及英国天体物理学家史蒂芬霍金 - 请求联合国禁止自主杀人机器人,他们警告说在数字时代,这些武器可能被恐怖分子用来对付平民。

“致命的自主武器可能成为第三次战争革命”,他们联合声明中发出警告,这份声明的签署者中也有谷歌DeepMind联合创始人穆斯塔法苏莱曼。

这份题为“人工智能的滥用:预测,预防和缓解”的新报告的撰稿人还包括来自电子前沿基金会。

“从长远来看,AI是否被认为是有益的或有害的,这在很大程度上是人类行为的产物,而不是技术本身。”

* 参考来源:SecurityAffairs,作者Sphinx,转载注明来自Freebuf.COM

本文作者:, 转载请注明来自FreeBuf.COM

# AI
被以下专辑收录,发现更多精彩内容
+ 收入我的专辑
评论 按时间排序

登录/注册后在FreeBuf发布内容哦

相关推荐
  • 0 文章数
  • 0 评论数
  • 0 关注者
登录 / 注册后在FreeBuf发布内容哦
收入专辑