权威国防科技信息门户
国防科技大数据智能情报平台
DSTIS征订中
DPS国防术语智能定位系统
国外国防科技文献资料快报
公告:
DSTIS国防军工信息资源内网服务系统2020年征订开始  
漏洞可能会减缓美国空军对人工智能的采用
2021-09-26

[Nextgov网站2021924日报道] 2021922日,美国空军负责情报、监视、侦察和网络效能的副参谋长表示,美国空军需要更好地保护人工智能程序和算法,以使训练数据免受敌人破坏。

美国空军负责情报、监视、侦察和网络效能作战的副参谋长Mary F. O’Brien中将表示:“有一种假设是,一旦我们开发了人工智能工具,有了算法和训练数据,它给了我们任何我们想要的东西,那就没有风险了。”但这种假设可能会给未来的作战带来巨大的损失。

O’Brien在美国空军协会的航空、航天和网络会议上表示,虽然部署的人工智能仍处于起步阶段,但美国空军应该为对手利用空军自己的工具来对付我们的可能性做好准备。

围绕对手使用空军自己的人工智能工具进行思考和制定战略是人工智能领域一个新兴子类别的一部分,即人工智能安全领域。人工智能安全确保部署的人工智能程序不仅能按预期工作,而且在设计、基础数据流和计算机架构方面不受攻击。目前美国国防部在这一领域的努力只是小规模的。

O'Brien讲述了一位美国空军情报官员的故事。这位美国空军情报官名为Rena DeHenre,他获得了麻省理工学院的奖学金,并在完成学业后返回了美国空军,希望加入一个负责人工智能安全的办公室。“她说,我可以去什么部门才能为保护我们的算法做出贡献?”O'Brien回忆说,“Rena,我们并没有那种机构,但你可以努力建立它!”

20219月初,DeHenre为在线出版物《地平线之上》撰写了一篇关于这一主题的简短专栏文章。她认为,美国空军应该开始对人工智能安全采取与其他作战相同的方法,让经验丰富的作战人员攻击程序或工具,以找到漏洞,就像对手一样。这种做法被称为“红队”。

她写道:“解决美国国防部人工智能和机器学习算法的漏洞将是人工智能红队的主要任务。”

虽然美国国防部喜欢把工作承包出去,但DeHenre认为,任何人工智能红队的组成人员都必须来自军队。她说,虽然他们一开始可能会面临技术和专业知识方面的障碍,但他们最终会克服这些障碍,红队人工智能计划和项目的能力将为未来的行动带来巨大回报。

她说:“不难看到,未来美国国防部人工智能红队的选拔变得类似于申请空军武器学校或初级军官密码学职业。”

博伊西州立大学普适性网络安全研究所所长Edward Vasco在另一个座谈小组中表示,美国国防部充满雄心的跨域指挥和控制网络项目的本质将提高数据被攻击的可能性。

他说:“每当你获取数据元素并将其扩展,以找到更多的遥测数据来利用时,我们最终面临的挑战是,我们为我们的对手创造了越来越多的数据环境来进行潜在的攻击。”

Vasco说,这些攻击“将变得越来越普遍,特别是随着先进战斗管理系统和联合全域指挥与控制项目在更大范围内实施。数据量的爆炸性增长将超出任何人的预期。我不是在谈论存储水平,我也不是在谈论访问或API平台连接性;我是在谈论这些数据的纯粹收集以及它使我们的对手能够借此做什么和思考什么。(国家工业信息安全发展研究中心 刘彧宽)


相关新闻

DSTIS 国防科技工业信息服务系统
中国核科技信息与经济研究院 中国航天系统科学与工程研究院 中国航空工业发展研究中心
中国船舶工业综合技术经济研究院 中国船舶信息中心 北方科技信息研究所 工业和信息化部电子科学技术情报研究所
国防科技信息网 dsti.net © 2006 - 2021 版权所有 | 京ICP备10013389号-1 | 公安备案号:11010802036354