赛事推荐|40万奖金池 GeekPwn寻找顶级AI语音合成“机械师”

发布时间:2017.09.01

2017年10月24日,一场AI 间的华丽对抗即将上演!国际安全极客大赛由GeekPwn(极棒)主办,腾讯、百度、小米、机器之心、华院数据作为合作伙伴提供战略支持,一同发起“人工智能安全挑战专项”,及场景赛AI仿声验声攻防赛,500万总奖金池加持,40万现金大奖,优秀技术团队更有机会获得技术孵化投资,这场实力对决,期待所有人工智能相关领域的安全研究者加入!

今年七月,美国华盛顿大学的研究者们公开了一段利用人工智能以及数字图像合成技术为前美国总统奥巴马先生制作的“讲话视频”。

 17 个小时的学习就可以让 AI 掌握足以乱真的人类面部细节,这又引起了不少人对未来可能出现的“AI 统治时代”进行担忧。

 

 AI 可能会掉进黑客精心谋划的「骗局」

 

人工智能与黑客的过招,早在国内外有各种实践。2016年,卡内基梅隆大学的研究团队凭借一副特制的花哨眼镜框,成功骗过商用级 AI 脸部识别软件,让摄像头前的人显示成为另一个人。

率先关注到人工智能可能暴露出的诸多风险,GeekPwn 实验室在 2015 年底开始了 AI 对抗的研究,并广泛接触和招募 AI 领域的顶尖人才,很快,在 2016 年的 GeekPwn 美国站上,生成对抗网络 (GANs) 之父 Ian Goodfellow 就展示了「对抗性图像」在现实物理世界欺骗机器学习的效果。原始图像以 60% 的置信度判断为「熊猫」,但是加入了微小的干扰,在人眼完全看不出差别的情况下却以99% 的执行度归为了长臂猿。

微信图片_20170926172201

「GANs」之父 Ian Goodfellow 在 GeekPwn2016 硅谷站分享图像对抗欺骗

一些研究已经证实,大多数机器学习算法很容易受到干扰而做出错误判断,而这些不完善就可能成为黑客利用的漏洞。目前 AI 已经在多个领域得到广泛应用,而声纹识别是除图像识别之外的又一大重要领域。

2017年,国际安全极客大赛GeekPwn(极棒)设立了高达500万总奖金池,推出人工智能安全挑战专项,以及场景赛AI仿声验声攻防赛。GeekPwn 组委会增设的“AI 仿声验声攻防赛”冠军团队奖金 20 万元。在这场 AI 的对抗中:你和你的队伍需要自行开发一款应用或者系统,能够从目标人物的声音中学习语音特征并合成语音音频,攻击若干语音验证系统,突破或欺骗目标系统本身的用户身份鉴别功能。简而言之,以 AI 技术合成的音频攻击使用语音鉴别进行用户登录的软件系统、带语音鉴别功能的 AI 产品。AI 对抗 AI,是此次大赛的魅力所在。

 

AI 仿声验声攻防赛

 微信图片_20170926172210

场景

参赛队伍从目标人物的声音中学习语音特征并合成音频,攻击若干语音验证系统,突破或欺骗目标系统本身的用户身份鉴别功能。   

被攻击目标为使用语音鉴别进行用户登录的软件系统、带语音鉴别功能的智能产品等。

 

规则

1. 参赛队伍自行开发一款应用或系统,能够从目标人物的声音中学习语音特征并合成语音音频。

2. 主办方在赛前 2 周向参赛队伍提供目标人物的若干音频文件,参赛队伍依此进行调试。

3. 参赛队伍在比赛现场,对主办方指定的多款声纹识别软件及智能设备进行攻击。 

4. 主办方指定若干段汉语文字、数字,参赛队伍合成汉语语音并尝试通过被攻击目标的验证。

5. 同一次验证可尝试 2 次,通过一次即可。2 次都不成功则记为失败。 

6. 综合被攻击的多个目标的通过概率,辅以评委打分,以不同权重得出参赛队总分。 

7. 根据各参赛队总分进行排名。

 

时间地点 

初赛将筛选 10 支最终比赛队伍,形式为提交主办方要求的音频文件进行测试。

 

报名截止日期:2017/10/10

初赛:2017/10/17

决赛:2017/10/24

 

决赛地点:GeekPwn 2017 嘉年华上海站现场 上海喜马拉雅大观舞台 

 

奖项设置 

第一名:10 万 – 20 万  

第二名:5 万 – 10 万

第三名:2 万 – 5 万

优胜奖(多名):5000 元

 

*优秀技术团队有机会获得技术孵化投资,奖金幅度根据参赛队伍现场通过验证情况浮动

 

500 万奖金池 向全球 AI 安全极客发出英雄帖

从对抗的思路出发,GeekPwn创办人工智能安全挑战赛是为了寻找 AI 潜藏的风险并不断帮助其完善,帮助人工智能安全健康成长。

除了AI 仿声验声攻防赛,2017 年 GeekPwn 人工智能安全挑战赛还有 PWN AI 与 AIPWN 不命题部分。PWN AI 是将 AI 作为挑战对象,人工智能算法会因选手影响而做出错误判断。简单来说就是利用 AI 中存在的错误和不完善,「黑掉」它。而 AI PWN 则是将 AI 作为工具,选手利用 AI 技术实现对于指定目标的攻击,引导其犯错。简单来说就是让 AI 成为你攻击的助手。

 

PWN AI (最高奖金80万) 

目标范围 

对于已发布的 AI 服务、产品、库、框架(主要指 Tensorflow、TorchNet、Caffe 等流行框架),采取手段使得在学习或者实际使用中,发生意外情况导致系统停止工作或系统被欺骗、误导,做出违反常规或者错误的判断、决策。方向包括但不限于图像识别、语音识别、自然语言处理、自动驾驶、恶意软件识别等。

 

参考实例

·        突破人脸识别手机解锁,以任意人脸解锁手机。

·        在自动驾驶系统中找到安全问题,使其不能够正确识别障碍物的存在。

·        在 AI 开源框架中找到问题,使得部署的 AI 系统在得到某种输入的情况下停止响应

 

AI PWN(最高奖金80万)

场景

选手以 AI(包括图像,语音,自然语言,自动驾驶等各个领域的各种人工智能方法)作为主要或者辅助手段,突破原有系统设定的限制,导致目标系统的功能、机制失效或者信息泄露。

 

参考实例

·        用人工智能的方法进行语音合成,生成目标模拟对象的语音并以高的概率通过语音身份验证系统。

·        用人工智能的方法进行动作的判别,从视频中识别出门禁密码输入并达到较高的正确识别概率。

·        用人工智能的方法识别复杂的机器验证码,正确识别率较高,使得目标验证码机制失去作用。

 

10 月 24 日,上海·硅谷 GeekPwn2017 嘉年华,人工智能与黑客,将触碰出怎样的火花?黑客,曾被视为人工智能的软肋,如今有机会成为保护人工智能的铠甲,那个人会是你吗?

 微信图片_20170926172219

 

  • 沪ICP备09008869号-1 沪公网安备 31011002000007号