返回列表
上海AI治理之道”暨《人工智能大模型可信赖应用评价指标体系》标准研讨会顺利召开
2024.05.07
2024年4月28日,“上海AI治理之道”暨《人工智能大模型可信赖应用评价指标体系》标准研讨会,在西岸人工智能中心(AI tower)45楼成功召开。本次研讨会由上海市徐汇区新型工业化推进办公室指导,上海大模型生态发展有限公司、上海徐汇滨江经济发展有限公司主办,中国信通院华东分院(以下简称“华东分院”)联合主办,由标准归口单位——上海市人工智能标准化技术委员会提供支持。
 
会议邀请了来自同济大学、复旦大学等高校科研机构,上海软件中心、长三角智慧城区发展研究院、华为、蚂蚁集团、百度、阿里云、MiniMax、星环科技、达观数据、蚂蚁云科技、卓繁信息、上海钢联、浦软平台等近30家人工智能领域领先企业专家代表,共同探讨人工智能安全治理推动人工智能产业高质量发展的重要议题,并启动国内首个大模型测试验证领域的地方标准《人工智能大模型可信赖应用评价指标体系》的制定工作。

 

 

上海市徐汇区新型工业化推进办公室副主任郭岩涛,华东分院院长廖运发分别致辞。

 

 

郭岩涛主任介绍了上海及徐汇区大模型相关产业和布局,强调了安全治理在推动产业健康发展的重要保障作用,并对活动的成功举办予以祝贺。

 

 

廖运发院长分析了中国人工智能产业发展情况,并分享了华东分院在大模型测试验证与协同创新中心、上海可信AI评测中心等人工智能安全治理平台建设,以及可信AI领域标准研究工作的进展。

 

 

主题分享
 

上海市人工智能标准化技术委员会副秘书长、上海人工智能行业协会研究咨询部部长陈曦介绍了国际和国内人工智能标准化工作的最新动态,以及上海在新一代人工智能技术标准体系框架、国际标准化长三角协作人工智能专业平台等推进标准化工作的最新情况。

 

同济大学法学院副院长、上海市人工智能社会治理协同中心秘书长徐刚教授、上海市质量和标准化研究院行业发展研究中心副主任邵逸超、蚂蚁科技集团大安全业务群智能对抗负责人魏扬威、华东分院人工智能事业部标准生态负责人彭莉分别从人工智能治理体系构建、标准化政策研究动向、安全评测解决方案实践以及《人工智能大模型可信赖应用评价指标体系》标准介绍等不同方面,分享当前人工智能安全治理的最新发展。

 

 

华为、阿里云、百度、MiniMax、开放传神、达观数据、上海计算机软件技术开发中心、上海浦东软件平台等与会单位代表就大模型评测平台框架建设、评测数据集搭建、大模型代码生成能力评测工具链等内容进行了广泛讨论,并结合企业自身发展实践,就通用大模型持续赋能垂类应用过程的可控性、可信赖性,以及基于工业、金融、教育等场景构建具体评测标准的关键问题进行了深入交流。

 

上海市人工智能标准化技术委员会作为《人工智能大模型可信赖应用评价指标体系》的归口单位,高度重视人工智能领域治理标准的研究与制定,致力于构建全面、系统的可信AI标准和评测体系,通过推动国际标准、国家标准、地方标准、团体标准及先进企业标准等各层级标准的融合与协调,促进不同标准之间的互补与衔接,形成统一协调的人工智能标准体系,为人工智能产业提供更加明确、高效的指导和规范。

 

本次研讨会的成功举办,不仅凝聚了产业生态各界在人工智能安全治理的重要共识,进一步推动人工智能标准化工作的系统谋划,同时确保人工智能技术的可控性与可信赖性,为人工智能产业营造了一个健康、规范、有序的发展环境。