同济快讯

当前位置: 首页 > 同济快讯 > 正文

张韬略 涂辉招:自动驾驶算法治理的机制设计

来源:新闻中心   时间:2022-09-23  浏览:

自动驾驶算法治理的机制设计,应当以人工智能算法治理的基本原则为指引,明确治理对象、治理目标、治理主体以及治理手段。

结合自动驾驶行业的特殊要求,可以从“车技”“车品”与“车德”三个维度,解析自动驾驶算法治理的关键风险要素。从车技视角,应将自动驾驶技术功能的安全性纳入算法风险评价体系,该维度要求对算法的效率、精度、鲁棒性,以及数据的安全性、完整性、准确性、时效性、一致性进行约束。从车品视角,应将自动驾驶算法实现智慧、精准及流畅的服务目标纳入算法风险评价体系,该维度要求在算法拟人度、优度,以及数据共享度进行优化。从车德视角,应考虑自动驾驶算法设计在违反基本伦理、道德、法律方面的合规风险,该维度要求避免自动驾驶算法的伦理风险、黑箱风险、个人数据隐私风险、企业数据产权风险和国家重要数据监管风险。

自动驾驶算法治理应当以自动驾驶科技造福人类为总目标,一方面不断释放自动驾驶技术的红利,另一方面精准识别、防范和应对自动驾驶算法的潜在风险。从产品和服务角度,智能驾驶技术算法在带来智能通行的便利、减少交通事故的同时,会引发车技、车品、车德三个维度的风险。自动驾驶算法治理机制的设计,应当有效预防和控制这些算法风险,平衡好自动驾驶技术创新、产业进步和技术治理的关系。

自动驾驶算法治理应该是多元主体共同参与的机制,即国家政府、行业组织、企业和公众各个利益相关者的积极参与、各司其职并且相互合作。国家政府应积极发挥在自动驾驶算法治理中的领导作用。具体表现在领导智能驾驶算法技术的研发,提供算法治理的法律、伦理和政策供给,设立监管体制和平台,促进政府间国际组织的国际协调和合作,推动自动驾驶行业的自律。汽车行业组织是自动驾驶算法治理的重要推动者,应当积极参与算法技术标准、产品检测规范的制订,总结和提炼行业算法治理的最佳实践,以指南或指引方式进行推广,倡导行业自律,搭建行业层面的算法治理生态。车企及相关供应商作为具体算法的研发和应用者,应提供算法产品和服务的产品说明,设计合理的评价反馈机制,积极践行国家法律、法规、政策、标准和行业自律,确保自动驾驶算法治理的国家顶层设计、行业中层规划的具体落地。用户和公众可积极参与自动驾驶算法治理的社会监督,发挥自下而上的治理作用。用户基于使用体验,可及时向生产主体或者监管机构提出反馈,快速暴露风险,实现敏捷治理。独立研究机构、学者可以监督并反馈意见。公众参与算法治理,能够进一步增加消费者对自动驾驶的信任。

治理手段是治理主体实现治理目标的具体措施和方法。具体包括:国家健全规范体系,指导行业标准体系的建设;国家架构多元治理体系,推动行业伦理委员会的成立,助力行业自律;国家和行业监管平台评估企业技术能力,建立需求收集渠道;企业和行业推进安全技术工具的开发,以技术治理技术;政策制定者和企业建立自动驾驶算法的风险治理优先级别评价机制;构建覆盖全面、反馈及时的治理效果评价机制。

(作者分别系法学院副教授、交通运输工程学院教授)


 

联系我们

同济大学 版权所有    上海市四平路1239号 021-65982200

同济大学新闻中心主办    E-mail:newscenter@tongji.edu.cn

沪ICP备10014176号    沪公网安备:31009102000038号    沪举报中心