袁梦奇　胡帆

　　人工智能+背景下技术赋能与伦理风险并存,传统监管难以适配差异化治理需求。本文以日照AI场景伦理风险为研究对象,探索治理路径与配套保障,可完善本地治理体系,也为同类城市提供参考
　　摘要:2024年政府工作报告部署人工智能+行动,2025年国务院出台实施意见,人工智能由技术突破转向场景赋能[1]。随着人工智能与各场景结合,伦理问题开始浮现。本文选取2026年日照市《首批人工智能+创新应用场景清单》的五大场景开展伦理风险分析,在完善当地AI伦理治理同时,为同类城市提供制度参考。
　　关键词:人工智能+；伦理风险；分级规制
　　一、引言
　　人工智能+赋能实体经济与基层治理,各地打造特色AI应用场景,转型成效显著,但伦理风险也日渐凸显。当前国家与省级层面多通用规范,缺少面向地市的落地细则；现有学术研究也偏理论于大城市,中等城市治理存在空白。日照作为典型中等城市,已发布首批人工智能+创新应用场景清单且覆盖多领域,具有代表性。因此本文选取清单内五类场景为样本,识别其伦理特征与风险,构建分级规制路径。
　　二、人工智能伦理风险理论框架构建
　　构建适配地方的分析模型是伦理风险识别的理论前提。本文梳理了三层伦理规范作为依据:一是《人工智能伦理指南》中的七大要素；二是《新一代人工智能伦理规范》中的六大伦理准则；三是山东省地方标准《人工智能技术应用伦理风险的治理要求》中的七大准则与十项治理要求。
　　三类规范表述各异,但集中于六大议题。鉴于现有规范多倡导性文本,难以适配具体场景规制需求,对比提炼后最终确立了算法公平、数据隐私、责任归属、透明度、人类监督、安全可控六维识别框架,其契合三层规范共识,聚焦地方场景,兼顾风险识别与规制引导,为后续研究提供支撑。
　　三、“人工智能+”应用场景示例性伦理风险识别:以日照市五大应用场景为例
　　本文运用预期性伦理方法,基于六维框架对五大场景开展前瞻性风险研判,不做事故实证分析。
　　日照钢铁智能工厂开启全流程智能化工程,依靠算法一键炼钢,多方参与、算法自主决策且不透明。传统模式定责溯源困难,风险集中于责任归属、透明度、人类监督与安全可控。而越疆科技机器人实现人机近距离协作,出现人身伤害时同样难以定责,核心风险与上述一致。
　　迈尔医疗齿科大模型提供数字化义齿定制服务[2],患者信息跨机构流转易泄露,多方责任链条复杂,算法黑箱阻碍举证,风险集中于数据隐私与责任归属,但透明度、人类监督、安全可控均有不足。
　　日照至信科技平台依托明枢大模型整合多源数据,开展社区治理[3]。但其采集居民信息未公示使用规则,申诉复核渠道欠缺,城乡样本失衡也易引发算法不公,风险聚焦数据隐私、算法公平、透明度、人类监督,平台由政务监管,整体安全可控。
　　日照移动政务平台利用云计算、无人机服务城市治理[4]。但无人机隐蔽采集人脸、住址等隐私,数据泄露与滥用隐患突出,核心风险为数据隐私,兼涉责任归属与安全可控。　
　　综上,现行规制标准统一,而各场景风险特征各异,规范同质化与风险异质化矛盾为后文制度评估核心。
　　四、现行制度适配性评估与城市治理经验参照
　　前文已识别具体风险,而风险规制须依托法律法规与地方标准。DB37/T　4845-2025提出十大治理需求,但其仅为指导性文件,无强制力且缺乏落地细则；《个人信息保护法》可管控个人信息相关风险,却无法覆盖其他场景；《民法典》提供民事追责依据,但侧重事后救济。总体来看,现行规范虽具备约束力,但缺少适配不同场景的实施规则,需构建适合地方实际的分级治理体系。而国内多地已出台相关规范:杭州依托条例搭建全生命周期追溯、创新沙盒等机制；无锡构建数据风险防控体系；深圳实施分级监管以及出台细分领域相关政策,提供了一定的治理经验。
　　五、人工智能伦理风险规制路径与保障配套措施
　　风险分级管控可将治理资源向重大风险倾斜,防范一刀切监管阻碍发展。本章依据DB37/T　4845-2025二维分析框架与《人工智能安全治理框架》2.0风险分级原则,按危害后果、波及范围、管控难度划分高、中、低三级风险场景,设计规制路径。
　　迈尔医疗所属的医疗AI直接介入诊疗并涉及用户隐私,算法问题会造成不可逆人身损害,多方权责关系复杂,划为高风险。应建立多主体协同伦理评估机制:实施跨部门前置评审,组建专家库,产品上线前完成资料审核[5],落实动态复核与档案留存,健全事故追溯链条。
　　至信科技、日照移动政务平台所属的智慧治理和低空经济为中风险,存在公民权益受损、算法不公隐患,但无直接致死风险,可通过人工复核纠错。应完善信息披露与异议处置体系:事前备案公示,开放数据授权撤回、低空信息查询渠道[6]；事中搭建限时申诉平台,常态化开展数据审计；事后构建申诉、人工复核、第三方评议三级化解机制。
　　日钢、越疆机器人等智能制造场景多经济损失,重大人身风险较低,可通过停机、人工介入管控,划为低风险。应以行业自律与企业合规承诺为核心:事前落实企业合规承诺,组建自律联盟[7]；事中赋予设备唯一编码,实现全流程溯源,保留人工接管权限；事后依托沙盒,由企业自查整改并报备。　
　　分级规制落地也需配套制度支撑。本文结合日照实际提出三项保障:一是建立重大AI项目伦理评估试点及动态复盘机制,实施差异化激励与柔性监管；二是制定《日照市AI伦理治理指引》及具体领域文件,明确量化指标,建立制度动态更新机制；三是搭建企业伦理平台,强化行业自治。三项举措形成多元协同保障体系以确保人工智能+产业规范且可持续推进。
　　六、结语
　　人工智能+背景下技术赋能与伦理风险并存,传统监管难以适配差异化治理需求。本文以日照AI场景伦理风险为研究对象,探索治理路径与配套保障,可完善本地治理体系,也为同类城市提供参考。但本研究存在局限:风险识别缺少实证检验、分级量化指标有待完善、动态落地存在挑战。后续需持续关注场景实践,动态优化治理规则,平衡创新发展与伦理安全。
　　参考文献:
　　[1]李彬,刘亮,张佃波.“人工智能+”如何驱动体育企业创新发展?——基于创新动态能力理论的实证分析[J].上海体育大学学报,2026,50(6):27-42.
　　[2]杜姿霖,王光源.日照向“新”而行以“质”致远[N].山东商报,2024-06-28(8).
　　[3]李叶青,陈潇.从“政策土壤”到“精神共鸣”:日照政企生态构建的观察与启示——从民营企业家记者见面会解码政策、创新与精神的共振[N].日照日报,2025-07-21(A04).
　　[4]何高迪.人工智能“牵手”实体经济[N].日照日报,2026-05-14(A01).
　　[5]陈东冬.算法嵌入政治安全治理:风险样态与规制路径[J].深圳大学学报(人文社会科学版),2026,43(1):99-110.
　　[6]张克震,王东,王亚玲.共有数据隐私保护的困境与出路[J].金融与经济,2025,(12):49-60.
　　[7]赵海乐.数字贸易谈判背景下的个人信息保护行业自律规范构建研究[J].国际经贸探索,2021,37(12):101-112.
　　基金项目:2026年度山东省日照市社会科学专项研究课题,日照市“人工智能+”应用场景的伦理风险识别与规制研究——以首批创新场景清单为例(ZX2026048)。
　　作者简介:袁梦奇(1989—),男,山东临沭,硕士学位,山东外国语职业技术大学,讲师,主要从事法学、思想政治教育研究。
　　胡帆(1999—),女,山东平邑,硕士学位,曲阜师范大学,研究生,主要从事法学研究。