共筑代理人的未来：GC午餐系列讨论会

各行业对人工智能的应用正迈入一个新阶段。随着生成式人工智能逐渐融入公司运营，一股更强大、更复杂的浪潮正在涌现：即代理式人工智能。这些系统不仅能协助完成独立任务，还能自主执行多步骤流程、做出决策，并与跨职能、跨领域的公司工具进行交互。对于正在应对这一转变的公司而言，这引发了一系列对于治理、安全、问责和运营韧性的根本性新问题。在我们最新一期的“总法律顾问午餐会”系列活动中，来自 Sophos、Securonix 和 RingCentral 的法律及网络安全负责人齐聚一堂，共同探讨公司如何为这个代理式时代做好准备，以及该时代带来的跨领域挑战。以下是本次活动的核心要点。

什么是代理商，总承包商为何需要关注？

主动型人工智能与聊天机器人或文档审查工具有着本质区别。这些智能代理能够通过推理、规划、执行多步骤流程、访问公司系统，并在不同程度的自主性下做出决策来采取行动。这一区别理应立即引起每位总法律顾问的关注。
传统的公司人工智能系统在收到指令时，可能只会起草一条合同条款。而具有自主性的系统则可能主动识别出某项条款的必要性，起草该条款，将其提交审批，并更新合同管理系统，而无需人工干预每个步骤。这一飞跃对治理带来的影响是深远的。
从普通法（骋颁）的角度来看，代理人的核心特征在于自主性。在法律语境中，自主性与权限、责任和控制等问题密不可分。代理法可能会面临前所未有的新挑战。

代理在生态系统中的位置

在多个垂直领域、业务部门和行业中，构建、开发和部署代理程序的势头正在加速。参加此次午餐系列活动的组织涵盖网络安全平台和云通信领域，它们正在积极地在其产物套件和内部运营中构建和部署代理程序。
智能代理的发展曲线仍处于早期阶段，但增长势头迅猛。推动智能代理系统发展的关键技术突破正在此时发生，与会专家预计，在未来十二到二十四个月内，智能代理将在整个公司中得到最显着的应用。
该生态系统尚未形成单一的模式。讨论的焦点在单功能代理、多代理系统和协调层之间来回转换。GC 需要理解这些架构选择，因为每种选择都伴随着不同的风险特征。
Sophos 和 Securonix 等网络安全公司正扮演着双重角色：既作为构建者塑造代理生态系统，又作为前线捍卫者抵御代理带来的风险。小组讨论传达的信息非常明确——要区分炒作与真正具有持久价值的事物，并确保贵公司的法务团队正在关注那些大多数公司可能未曾留意的动态。

代理商正在开启一场对于治理的新对话

全球范围内围绕人工智能的法律环境瞬息万变，而具有自主行为能力的系统所带来的治理挑战，与独立的生成式人工智能系统所带来的挑战存在本质差异。总法律顾问不能简单地将现有的础滨政策延伸至涵盖具有自主行为能力的系统部署，因为其风险特征在性质上存在差异，而不仅仅是程度上的差异。
自主权与问责制。组织必须以与人类授权相同的严谨态度，界定授予代理的权限范围。在代理的语境下，“最小权限原则”具有了新的含义，当代理被用于关键工作流程时，必须对决策权限进行记录。对于代理在必须由人类介入之前应拥有多少裁量权这一更棘手的问题，虽然没有放之四海皆准的答案，但必须建立一个经过深思熟虑的框架。
安全性。与非代理系统相比，代理会带来独特或加剧的安全风险。在代理环境中，命令注入、工具滥用、权限提升和内存污染都呈现出新的维度。实际上，代理正在公司内部创造一个新的攻击面，首席信息安全官（颁滨厂翱）正在仔细考虑如何监控和控制这些风险。总法律顾问应参与这一讨论，而不是等到发生安全事件才被迫采取行动。
数据隐私与额外风险。代理程序以许多组织尚未预料到的方式，使现有的数据治理和隐私框架变得更加复杂。对于那些正在应对错综复杂的全球数据隐私法律体系的公司而言，如果在未充分了解代理程序如何处理个人数据、跨境传输以及监管义务的情况下部署这些程序，可能会面临重大挑战。 ?
第叁方风险。与具有代理能力的供应商签订合同时，需要采用不同的视角。针对具有代理能力的础滨，赔偿、责任限制和安全条款均需相应调整。

总法律顾问应向团队传达哪些内容

与会专家们坦率地谈到了智能代理未来令他们感到振奋之处，同时也坦率地指出了这一未来所需的治理机制。创新与治理之间的恰当平衡必须保持动态调整，这需要持续的协商，而这一过程离不开法律领导层的参与。
总法律顾问需要做好准备，以回答一个关键问题：如果必须向监管机构、法院或董事会解释代理人的行为，您需要哪些文件？而贵组织目前实际掌握了其中多少？
在座的每一位法律负责人都被敦促将这一点传达给各自的团队和董事会：确保智能代理的未来不仅是技术层面的挑战，更是治理、风险管理和领导力的挑战。 ?

主动型人工智能正以远超大多数法务部门准备速度的步伐，从概念走向实际应用。那些能够将早期介入与周密的治理框架相结合，明确权限划分、要求可审计性并坚持“安全设计”原则的总法律顾问，将能够引领其组织完成这一转型，而非被动应对。

阅读一篇《华尔街日报》的及时报道，其中提到的许多观点与我们讨论的内容不谋而合。继续前进！

免责声明

本博客由富乐律师事务所（"富乐"或"本所"）提供，仅供参考之用。其内容不代表本所就任何客户所采取的法律立场，亦不构成具体法律建议。本文所载观点未必反映富乐律师事务所、其合伙人或客户的立场。因此，在未咨询持牌律师前，请勿依据本信息采取行动。本博客不旨在建立律师-客户关系，且接收本博客内容亦不构成此类关系。通过本网站以电子邮件、博客留言或其他方式与富乐沟通，均不就任何法律事务建立律师-客户关系。因此，您通过本博客向麻豆传媒发送的任何通讯或材料（无论通过电子邮件、博客留言或其他方式），均不被视为机密或专有信息。本博客信息按"现状"发布，不保证其完整性、准确性及时效性。麻豆传媒对本网站的运营或内容不作任何明示或暗示的陈述或保证。富乐律师事务所特此声明，不承担任何其他明示或暗示的保证、担保、条件及陈述，无论其依据任何法规、法律、商业惯例或其他来源产生，包括但不限于对适销性、特定用途适用性、所有权及不侵权的默示担保。在任何情况下，富乐律师事务所及其合伙人、管理人员、雇员、代理人或关联机构均不承担任何法律理论下的直接或间接责任（合同、侵权、过失或其他），对您或任何人因创建、使用或依赖本网站（包括信息及其他内容）或任何第三方网站，或通过此类网站获取的信息、资源或材料而产生的或导致的任何索赔、损失或损害（包括直接、间接、特殊、附带、惩罚性或后果性损害）不承担任何责任。在某些司法管辖区，本博客内容可能被视为律师广告。如适用，请注意：过往成果不保证类似结果。照片仅用于戏剧化效果，可能包含模特。肖像不必然暗示当前客户、合伙或雇员身份。

[email protected]

硅谷 650.251.1222

一位留着齐肩棕发、身着纹理西装外套的女性，面带微笑地伫立在模糊的商法事务所环境中。

[email protected]

旧金山 415.438.6409

[email protected]

圣地亚哥 858.847.6715

麻豆传媒

热门搜索

共创代理化未来：骋颁午餐系列讨论会

什么是代理商，总承包商为何需要关注？

代理在生态系统中的位置

代理商正在开启一场对于治理的新对话

总法律顾问应向团队传达哪些内容

作者

路易·勒霍

凯利·厂·博伊德

彼得·窜·斯托克伯格

相关洞察

是时候出发了

是在“借来的时间”里工作吗？股权追索权票据的风险回报分析

人工智能、自动化和机器人技术正在重塑私募股权的价值创造模式