吴记
当前,以大模型为代表的人工智能技术加速演进,正由信息生成、认知辅助向任务执行、流程嵌入延伸,并由此带来应用边界拓展、风险形态变化和治理重心前移等一系列新课题。习近平总书记强调,要把握人工智能发展趋势和规律,不断完善相关法律法规、政策制度、应用规范、伦理准则,确保人工智能安全、可靠、可控,让人工智能这匹千里马既跑得快又跑得稳。准确把握人工智能的发展逻辑与治理路径,对于统筹发展和安全、推动人工智能健康有序发展,具有重要现实意义。
人工智能发展形态的阶段性跃迁
能力形态加快升级,人工智能由信息处理工具向任务执行系统拓展。与以往主要停留在文本生成、信息检索和认知辅助层面的人工智能不同,当前,智能体应用加快兴起,推动人工智能由“给出答案”向“完成任务”延伸、由“辅助判断”向“参与行动”拓展。一方面,大模型在语言理解、任务分解、多轮交互等方面持续进步,为复杂任务的步骤化处理提供了基础支撑；另一方面,工具调用、接口接入、任务编排等能力不断增强,推动人工智能由单轮响应走向链式执行、由结果生成走向过程参与。由此,人工智能的价值重心越来越多地体现为“执行了什么”“完成了什么”,而不只是“生成了什么”“回答了什么”。
应用空间加快拓展,人工智能由能力展示阶段向场景落地阶段迈进。随着数字化转型深入推进,企业对流程自动化、系统协同和效率提升的需求持续上升,推动人工智能由辅助性工具进一步向执行性工具延伸,逐步嵌入办公协同、软件开发、数据处理等具体场景。与此同时,个人用户对人工智能的功能期待,也由信息查询、内容生成转向任务代办、流程处理等更具复杂性的场景。特别是,当前智能体应用具有较强的参与性、可见性和传播性,用户通过持续调试、优化和适配,能够较为直观地感受到人工智能能力边界的外拓。
发展逻辑加快深化,人工智能由单点突破向技术与需求耦合演进。从更深层看,人工智能发展态势所反映的,不只是某一类产品热度上升,而是人工智能发展逻辑正在发生阶段性变化。一方面,模型能力持续提升,为智能体应用向任务执行延伸提供了关键前提；另一方面,效率提升、流程优化、系统协同等现实需求不断增长,为相关技术加快落地提供了广阔空间。与此同时,用户、平台、企业等多方主体在实践中持续调试、适配和重构技术能力,推动相关应用由封闭测试走向开放环境,由局部试验走向社会扩散。
构建分层分类治理体系推动人工智能发展
面对人工智能发展新态势,治理的关键在于针对不同风险形态、不同应用场景和不同责任主体,建立更具针对性和可操作性的治理机制。对这类新应用,既要看到其在流程重构、效率提升中的现实价值,也要正视其在权限调用、链式执行和责任分散中的风险隐患,在发展中划清边界,在治理中释放潜力。
聚焦“在哪儿用”的边界问题,建立面向场景的分层分类治理机制。任务执行型人工智能应用的风险,随着应用场景变化而显著分化。对涉及关键数据、核心业务、高风险操作的场景,治理重点应放在权限控制、行为留痕、人工复核和异常中止机制上,确保关键环节可追溯、可干预、可回退；对以效率提升、流程优化为主的一般性应用,则应在守住安全底线前提下鼓励探索,避免用同一套标准处理所有应用场景。只有把治理边界建立在场景差异基础之上,才能避免“一放就乱、一管就死”。
聚焦“怎么跑”的过程问题,推动治理重心前移到执行链条。与传统生成式人工智能主要围绕内容输出治理不同,当前人工智能存在的风险更多产生于执行过程而非输出结果。治理如果仍然停留在结果纠偏和事后处置层面,就难以及时应对链条放大和过程失控带来的风险。要把治理重心前移到任务分解、权限调用、关键执行和异常处置等环节,强化过程控制、节点约束和实时干预能力,防止局部偏差在运行链条中累积放大。
聚焦“谁负责”的协同问题,压实多主体责任链条。人工智能应用一旦进入现实流程,其运行结果往往不再是单一主体行为。为了避免陷入“出了问题找不到责任人”的困境,应围绕开发、部署、接入、运维等关键环节,进一步明确平台、模型提供方、工具服务方和使用主体的责任边界,健全责任追溯和风险分担机制,同时加强对插件接入、接口开放和外部服务协同的规范约束,降低系统性风险外溢。
聚焦“如何认知”的引导问题,把风险教育纳入治理体系。人工智能风险的放大,不仅来自技术本身,也来自公众对技术能力边界的误判、对使用场景的误配以及对自主执行能力的过度想象。治理不能只盯着系统和平台,也要把公众认知纳入视野。应通过风险提示、使用指引、场景化教育等方式,帮助用户建立对技术边界、应用风险和操作规范的基本认知,减少盲目跟风、过度依赖和不当使用,推动形成理性、有序、可预期的应用环境。
(作者系中山大学管理学院教授)
|
