苹果年报警告：AI代理或以“不可预测”方式行事，引诉讼与声誉风险

苹果周二在年度财务申报文件中新增风险因素，警告能够以“非预期或不可预测的方式”行事的人工智能（AI）代理可能威胁公司业务，使其面临诉讼或声誉损害。

文件显示，这类代理可自主采取行动，包括与内部或外部系统交互（某些情况下可能未经授权）、执行或更改代码、发送通信及完成交易。苹果还警告称，公司对第三方AI代理和其他技术的监督与控制能力可能有限。

苹果同时表示，围绕AI和“超级智能”的监管变化难以预测，适应新法律可能耗费大量资金，并可能面临道德问题与消费者负面看法带来的风险。披露之际，已发生多起失控AI智能体突破沙箱攻击第三方网站的事件；苹果上月也宣布更改Mac的完全磁盘访问权限，以降低与此类访问权限相关的风险。目前苹果尚无自主型AI代理，公司首席执行官称在扩展Siri功能方面仍有“很大空间”，并强调要让用户清楚所授予的访问权限，以保护安全与隐私。