图灵奖得主斯发基斯：AI自主程度须与经过验证的系统可靠性相匹配

2026年10月27日，2007年图灵奖得主、Verimag实验室创始人约瑟夫·斯发基斯在可持续全球领导者大会期间接受新浪财经采访，围绕人工智能可靠性、AI智能体风险、认知外包及协作式人工智能等话题阐述观点。

谈及中国AI发展，斯发基斯认为中国是少数有能力与美国在人工智能领域竞争的国家之一，建议中国发展自己的AI愿景，重点关注工业人工智能。他表示，中国拥有强大的工业基础和大量特定行业数据，具备发展工业AI的优势，应推动AI与工业流程、行业知识及可靠软件工程结合。他还建议中国与欧盟合作推动AI监管和标准建设。

对于AI智能体，斯发基斯指出，多智能体系统的多个执行步骤之间可能出现错误传播。他以连续执行10个步骤、每步99%成功率计算，整体成功率仅约90.4%，因此不能因每个环节看似可靠就认定整个系统可靠。他强调，人工智能的自主程度必须与系统经过验证的可靠性相匹配，在风险较低场景可允许更多自主操作，但涉及物理环境、可能造成严重后果的任务需严格保障。AI治理需回答：系统是否足够可靠？人类能否有效控制？出问题谁承担责任？

斯发基斯还提出“认知外包”担忧：年轻人若用AI完成全部作业，将放弃思考、分析等认知训练。他认为教育价值不仅在于获取知识，也在于建立独立解决问题的能力。他倡导协作式人工智能，AI应像导师一样帮助学生思考，而非直接给出答案，同时应避免过度迎合用户。他指出，AI需理解学生思考过程并据此调整帮助方式，这比生成答案困难得多。