人工智能驱动的经济和社会模式正在由无处不在的数据和算法催生而出，这不仅启动了社会治理与进步的加速器，同时也引发了业界对于人工智能与风险治理的关注与思考。
与传统的风险不同，现代社会中的风险具有不确定性以及社会建构性等特征，国际上普遍认为需要从环境、信息科技等风险领域加以管理与规制，而风险的治理则为领域各相关方带来挑战，如何整合、修正与改善既有的风险信息规制方式需要被重新分析与审视。
6月26日 10:00-12:30，由未来论坛首度发起的科技与人文结合的课题AI伦理与治理系列即将开启03期热门话题——AI与风险治理。本期研讨会将邀请AI、法律、人类学学者与自动驾驶和金融科技企业代表，一同探讨AI为社会提升效率的同时，如何对其风险进行识别、预防、管理以及风险发生后的定责及处理，从而形成良好的AI风险治理模式。
会议议程
- 北京时间 2021年6月26日（周六）上午10:00-12:30
- 美东时间 2021年6月25日（周五）晚上22:00-00:30
- 美西时间 2021年6月25日（周五）晚上 19:00-21:30
10:00-10:05 主持开场
主持嘉宾&组织者：
- 漆远，未来论坛青年理事，蚂蚁集团副总裁、首席AI科学家，达摩院金融智能实验室负责人
10:05-11:05 主题报告
《自动驾驶中的技术、风险与法律》
- 汪庆华，北京师范大学法学院教授、博士生导师，数字经济与法律研究中心主任
摘要：在资本、技术和产业政策的推动之下，自动驾驶迅猛发展。自动驾驶带来的个人隐私、公共安全、系统风险都亟需从政策法律方面进行有效的回应。《汽车数据安全管理若干规定》为智能汽车数据安全风险防范划定了底线。个人信息保护和自动驾驶对个性化服务之间的紧张如何化解？车内信息删除能否做到？自动驾驶系统如何做到万无一失，防止自动驾驶汽车的失控？法律规制如何在自动驾驶产业发展和个人权利保护、维护公共安全之间取得有效的平衡？这些AI时代的技术、风险与法律的问题值得广泛而深入的讨论。
《（AI）风险的事实、幻象与感知》
- 黄剑波，华东师范大学人类学研究所教授
摘要：风险社会已经成为理解现代社会的一种方式。无论是对个人还是对群体，风险都无疑是真实、客观的实存(reality)，但风险的“实存”并不仅限于那些可见的威胁和灾难，也包括人们主观上对于风险的感知。从运河阻塞到网络攻击，从核污染到席卷全球的疫情，风险几乎无处不在，可为什么有的危险会被识别为风险，有的则不会？为什么有的人对特定风险格外敏感？通过回答这些问题，我们可以更深入地理解技术发展所带来的风险。当然，关注人对风险的主观感知并非一劳永逸的系统性解决方案，而是一种仍需不断调试和修正的理解路径。简言之，风险确实在很大程度上是一种现代性的产物，但它同时也涉及人对自身和世界的根本性理解。认识风险的过程，也是洞察未来的过程，它或许能帮我们描摹出人类理想生活的蓝图。
《道阻且长，行则将至——进入深水区的AI安全与企业实践》
- 马杰，百度副总裁
摘要：人工智能在为各行各业的智能化变革提供新动能的同时，也为相应的风险治理制度建设和体系化安全能力建设提出了新的要求。建立完善的AI安全技术体系，持续提升AI安全能力，不仅是AI安全生态治理框架中的重要组成部分，也是企业助力AI大生产平台健康有序发展的重要举措。面对一系列全新的AI安全挑战，百度率先提出Security（强对抗环境下的威胁）、Safety（非对抗环境下的威胁）、Privacy（数据安全与隐私保护）三维度，并从模型鲁棒性加固与评估、复杂场景安全验证、AI供应链安全、隐私保护的机器学习、全生命周期的数据安全等多维度探寻解决方案及落地实践。同时，面向更为广泛的AI安全生态开源BASS下一代人工智能安全技术栈，全面解决云管端及大数据、算法层面的安全问题，在开放包容、多元互鉴中寻求共赢。
《AI系统安全风险分析》
- 沈超，西安交通大学电子与信息学部教授，网络空间安全学院副院长
摘要：人工智能浪潮正在为人类生产和生活带来深刻的技术变革，基于“深度学习+大数据+高性能计算”的端到端解决方案为许多复杂任务（例如无人驾驶、智能机器人等）提供了有效解决途径，在某些特定领域其能力已经接近甚至超越人类。然而在美好蓝图之下，人工智能系统本身及其在数据、模型和代码等方面的安全风险也逐渐暴露出来，AI安全与可信已经成为一个不容忽视的问题。本次报告将探讨AI系统的可信安全与面向AI的测试问题，分析AI系统所面临的安全风险。
11:05-12:10 圆桌讨论
对话议题：
1、AI一方面可以用来控制风险，一方面自身也带来了风险。那么当AI日益深入社会各个应用的时候，整体上是加大还是减少了风险？
2、风险是个机器学习可以算出来的概率问题吗？从人文的角度如何理解风险？
3、AI犯错如何定责？是人还是机器？
4、在无人驾驶，金融场景和信息服务，如何使用AI控制风险？
5、面对非常复杂的场景如果无法靠谱地计算风险，或者风险后果无法赔偿，如何更好控制或者避免风险？是否可能把人类知识和AI算法结合来防止风险？
6、AI做到可信可靠可解释还有多长的路要走？
12:10-12:30 现场问答环节Q&A
黄剑波，华东师范大学人类学研究所教授
黄剑波，重庆彭水人，现任华东师范大学人类学研究所教授，研究兴趣包括宗教人类学、西南及西北民族地区研究、社会边缘群体研究等。主要作品有《人类学家及其理论生成》（2021）、《乡村社区的信仰、政治与生活》（2012）等。长期致力于对中国社会和文化的经验性观察和认识，并在学科基础理论探索及学术共同体的构建上多有投入。近年来主要关注当代中国社会中宗教及类宗教的修与修行实践，力图在宗教研究、人类学研究及中国研究的不同维度上有所思考和推进。
马杰，百度副总裁
马杰，百度副总裁，整体负责百度安全部、智能云物联网部、ARM云服务业务。反病毒与网络安全专家，中国网络空间安全协会副理事长、亚洲反病毒研究者组织（AVAR）理事，2015年加入百度。曾任瑞星公司研发总经理，主持开发了覆盖数亿个人与数万家企业的安全产品，后受邀加入创新工场，担任技术总监，并成为第一任EIR。2011年创立国内首个基于SaaS的云安全服务品牌“安全宝”，“安全宝”于2015年被百度收购。
漆远，未来论坛青年理事，蚂蚁集团副总裁、首席AI科学家，达摩院金融智能实验室负责人
漆远是蚂蚁集团副总裁、首席AI科学家、达摩院金融智能实验室负责人。麻省理工学院博士、计算机人工智能实验室及怀海特生物实验室博士后。曾是普渡大学终身副教授、哥伦比亚大学、杜克大学、布朗大学访问学者、机器学习杂志Journal of Machine Learning Research执行编辑、和机器学习会议ICML领域主席。现负责蚂蚁集团AI的发展落地，包括AI战略布局，技术选型，协作机制及相关应用。曾获微软牛顿研究奖和美国科学基金NSF Career奖。
沈超，西安交通大学电子与信息学部教授，网络空间安全学院副院长
沈超，西安交通大学教授、博士生导师，网络空间安全学院副院长，国家优秀青年科学基金获得者、阿里巴巴达摩院青橙奖获得者、麻省理工科技评论MIT TR35 China入选者。目前主要从事可信人工智能、智能系统控制和与安全、智能软件系统安全与测试、电力系统安全的研究工作。承担国家自然科学基金、国家重点研发计划课题、863计划课题等部委与企业项目30余项。
研究成果发表人工智能、网络安全、软件工程领域顶级国际期刊和会议论文80余篇，获得IJCAI-DCM等8次国内外学术会议最佳/优秀论文的奖励，7篇论文入选ESI高被引论文，授权与申请国内外专利30余项，获省部级科学技术奖一等奖1项、二等奖2项、教育部霍英东青年教师奖一等奖，主持研制了多个重要系统并应用于多个大型企事业单位。担任IEEE Trans. Dependable Secure Computing (CCF A类)等9个国际期刊的副编辑或编委、以及ACM CCS (CCF A类)等20余个国内外学术会议的组织委员会成员或程序委员会成员。
汪庆华，北京师范大学法学院教授、博士生导师，数字经济与法律研究中心主任
汪庆华，北京师范大学法学院教授、博士生导师，数字经济与法律研究中心主任。北京大学法学本科、硕士、博士；哈佛大学法学硕士。曾任《北大法律评论》主编。耶鲁大学中国法中心访问学者，牛津大学奥利尔学院访问学者，哥伦比亚大学中国法研究中心访问学者。曾多次前往欧洲、美国等地参加国际学术会议，进行学术考察和交流。曾任中国政法大学教授、宪法学研究所副所长、大数据和人工智能法律研究中心创始主任。现为北京师范大学法学院教授、博士生导师、数字经济与法律研究中心主任。学术兴趣主要在宪法行政法、法律社会学、美国法、大数据和人工智能法。
