上海成立人工智能产业安全专家咨询委员会

专委会将按照技术突破、产业创新和法律研究各方面需求，兼顾地域和领域代表性，召集跨界别的专家、学者和企业精英，探讨“产学研用”深度融合，推动上海人工智能安全产业蓬勃发展，并引领全国人工智能产业安全发展。同时，专委会将依托专委会的平台，紧扣国家战略、上海定位和区域需求，围绕中长期战略规划、重大项目评估、重点应用领域安全实践、前沿课题研究等，共商共治、群策群力，为上海探索一条更有包容性、更具开放性的安全发展模式和工作路径。

为了应对人工智能安全挑战，守护智能时代人类未来，上海市人工智能产业安全专家咨询委员会在充分吸纳国内外人工智能安全共识的基础上，联合人工智能安全领域的专家学者和产业界同仁，在会上共同发起“人工智能安全发展上海倡议”，倡议内容包括：

面向未来：人工智能发展需要实现创新与安全的协同，以安全保障创新，以创新驱动安全。在确保人工智能自身安全的同时，积极将人工智能技术应用于解决人类社会的安全难题。

以人为本：国际社会应一道科学规划人工智能的发展路径，确保人工智能按照人类预期并服务人类福祉方向发展，机器自主进化和自我复制等关键进程须进行风险评估和安全监管。

责任明晰：人工智能发展应当建立完备的安全责任框架，需要针对人工智能的应用场景，不断创新法律法规和伦理规范，明确人工智能安全责任认定和分担机制。

隐私保护：人工智能发展需要保障用户的数据安全，人工智能发展不得以牺牲用户隐私为代价，需要加强数据保护立法，丰富人工智能的技术路线，不断强化人工智能应用中的用户隐私保护。

算法公正：人工智能发展应避免由于算法设计对公众产生的危害，须明确算法动机和可解释性，克服算法设计和数据收集引发的不公正影响。

透明监管：人工智能发展应当避免技术黑箱导致的安全风险，需要通过建立可审查、可回溯、可推演的监管机制，确保目标功能和技术实现的统一。

和平利用：人工智能技术应当审慎运用在军事领域，自主化武器的研发和使用须遵循严格的风险评估，避免由于人工智能技术在军事领域滥用对全球和平稳定的威胁。

开放合作：人工智能发展需要各国、各方的协同共进，应当积极在国际范围建立人工智能安全发展的规范和标准，避免技术和政策不兼容导致的安全风险。

当天，上海第二批人工智能应用场景需求正式对外发布，面向全球人工智能企业征集解决方案。经筛选确认，最终有28个场景脱颖而出，并呈现四方面特征：

紧扣2019世界人工智能大会，打造综合性人工智能应用集聚区。比如，浦东新区科经委提出，在浦东世博地区实现智慧楼宇、智慧商业、智能驾驶等场景需求。

带动性强，突出“大场景”落地，赋能上海地铁、公交、垃圾分类。比如，上海城投环境公司的“人工智能在生活垃圾分类中的应用”场景，从识别报警、分类清运、到回收机器人等方面都提出详细需求。

突出高端引领、打造世界级人工智能应用场景。中国外汇交易中心、中以桃浦智创城、东海大桥等发布的场景具有打造全球影响力应用标杆的潜质。

这批场景还着力破解痛点问题，实现“AI+”一二三产业全覆盖，助力降本提质增效。

下一步，上海将协调各方开放更多应用场景，鼓励AI最新成果在上海率先“试水”。

来源：上海市人民政府

更多精彩内容点击阅读原文！