1/0
世界人工智能大会聚焦“可信AI” 蚂蚁集团首席AI科学家透露“智能对抗”技术已上线
东方网2021-07-09 14:45:35

东方网记者柏可林7月9日报道:7月9日,“2021世界人工智能大会-可信AI论坛”在上海召开,来自世界多国的院士、学者共同探讨可信AI从认知演进,到理论研究,再到产业探索等多个议题。

蚂蚁集团副总裁、首席AI科学家漆远教授在会上透露,继“隐私计算”和“图学习”技术取得实践成果后,蚂蚁集团在可信AI技术体系中的又一项重要技术——“智能对抗”技术现已正式上线部署,支持反欺诈等多个风控场景。他表示,融入经济学“博弈理论”的“智能对抗”技术,能够借助“双手互博”的演习机制,让AI模拟黑产发起对自身的攻击演练,从而帮助AI在风险识别能力、抗打击能力上持续、自动进化升级。据悉,该技术应用于金融风控领域,在业内尚属首次。

“智能对抗”加强风控模型抗打击性

“未来的风控将不再是人和人的斗争,而是AI与AI的博弈,”漆远在演讲中表示,“在支付宝上,每天上亿笔交易背后,发起攻击的早已不是散户,而是专业的黑产团伙。”为了应对复杂多变的黑产攻击,如何持续加强风控模型的抗打击能力,做到“魔高一尺,道高一丈”成为一道难题。

2018年,漆远带领着蚂蚁集团AI技术骨干,在人工智能模型算法中融入经济学“博弈理论”,开发了一项业界全新的技术——“智能对抗”,即通过结合AI和博弈对抗,让机器自动且实时、动态地对自身系统进行安全性攻击,从而提升模型能力,使模型的处理结果更加准确。目前,“智能对抗”技术已覆盖支付宝风控的账户、欺诈、交易安全等多个场景。

借助“智能对抗”技术,用更智能的 “攻”,实现更安全的“防”。 “智能对抗”技术在权威机构Gartner发表的白皮书中被列为2021年十大金融科技趋势之一。业内认为,因该技术具有对风险知识形成感知、分析和预测的能力,未来将成为可信AI领域的核心安全技术。

“可信AI”是数字时代抵御风险的关键能力

除金融风控场景外,可信AI技术还被广泛应用于数据隐私保护、金融科技服务等多个领域。在2021世界人工智能大会上,与会嘉宾们形成共识:随着数字化进程的不断加速,AI在推进传统产业数字化升级的过程中作用显著。在借助AI防御数字经济风险的同时,如何确保AI的安全、可信和公平成为全行业关注的重要课题。

目前,拥有全球范围内数量最多的“AI安全可信关键技术”专利的公司是蚂蚁集团。记者从蚂蚁集团获悉,今年6月,蚂蚁集团首次向外界发布了蚂蚁可信AI技术架构体系,保障AI可信及稳定运营。同时,围绕AI公平性的建设和发展,蚂蚁先后启动了针对不发达地区的“AI豆计划”、针对视障碍人群的“空中手势”验证码方案等项目。通过可信AI技术的研究和投入,促进相对落后地区的经济发展,帮扶弱势群体,弥合数字鸿沟。

作者:柏可林
选稿:赵铭
知识产权、免责声明以及媒体合作联系
继续了解
知识产权声明

【知识产权声明】

除本司(指上海东方网股份有限公司)另行声明外,本司网页及客户端产品(以下简称“本网”),包括但不限于东方新闻、翱翔、东方头条等,所涉及的任何资料(包括但不限于文字、图标、图片、照片、音频、视频、图表、色彩组合、版面设计、商标、商号、域名等)的知识产权均属本司和资料提供者所有。未经本司书面许可,任何人不得复制、转载、摘编、修改、链接、镜像或以其他任何方式非法使用东方网的上述内容。对于有上述行为者,本司将保留追究其法律责任的权利。

东方网、东方新闻、翱翔,以上均为本司享有权利之合法商标,未经本司书面授权,任何单位或个人不得使用上述商标,或将上述商标用作网站、媒体名称等。

【免责声明】

1、凡本网注明来源“东方网”或“东方新闻”或带有东方网LOGO、水印的所有内容,包括但不限于文字、图片、音频视频,版权均属本司所有,任何媒体、网站或其他任何形式的法律实体和个人未经本司书面授权均不得转载、链接或以其他方式复制传播。与我司签订有关协议或已经获得本司书面授权许可的媒体、网站或其他任何形式的法律实体和个人,应在授权范围内使用,且必须注明来源“东方网”。其目的在于传递更多信息,并不意味着本司赞同其观点或认可其内容的真实性。如果其他媒体、网站或其他任何形式的法律实体和个人使用,必须保留本司注明的“稿件来源”,并自负全部法律责任。如擅自篡改为“稿件来源:东方网”,本司将依法追究责任。

2、擅自使用东方网名义转载不规范来源的信息、版权不明的资讯,或盗用东方网名义发布信息,设立媒体账号等,本司将依法追究其法律责任。

3、鉴于本网发布主体、发布稿件来源广泛,数量较多,如因作者联系方式不详或其他原因未能及时与著作权拥有者取得联系,或著作权人发现本网转载了其拥有著作权的作品时,请主动来函、来电与本司联系,或与本司授权的中国文字著作权协会联系,提供相关证明材料,我方将及时处理。
中国文字著作权协会联系方式:
联系人:赵洪波 唐亚静
地 址:北京西城区珠市口西大街120号太丰惠中大厦1027-1036室
联系电话:010-65978917
邮 箱:wenzhuxie@126.com

4、本网所有声明以及其修改权、更新权及最终解释权均属本司所有。

【媒体合作】

本司为尊重保护著作权,鼓励有益于社会主义精神文明、物质文明建设的作品的创作和传播,促进互联网良性发展,本着平等互惠、资源共享的原则,诚邀各类媒体、网站、单位、个人与本网建立友好的合作关系。
媒体合作、内容转载请联系
联系人:杨老师
联系电话:021-22899781