作者： 杨建利
译者：Fred
一桩里程碑式的案件与一次概念上的转变
近期美国的一起案件裁定，Meta和 YouTube在涉及社交媒体成瘾的诉讼中存在过失，这标志着一个深刻的转折点。法院首次采纳了这样一种主张：数字平台造成的损害，其根源可能并非主要来自用户生成的内容，而是源于系统本身的架构设计。通过将责任归属的重心从“言论内容”转移至“设计架构”，该案开始在法律领域开辟出一片新天地：即“算法产品责任”。
其重要意义远不止局限于侵权法理论范畴。它预示着一个治理难题的初步显现——而法律界尚未对其形成完整的概念认知：即应当如何规制那些旨在对人类行为进行大规模优化的系统。原告方提出的一项论点——即平台刻意构建了诱导用户产生强迫性互动的“参与闭环”（尤其是针对弱势用户群体）——在潜移默化中重构了“成瘾”这一概念的内涵：将其从一种基于物质滥用的病理学状态，转化为一种由系统机制所诱发的不正常行为。
本文正是基于这一概念上的转变而展开论述。文中提出了一套用于理解与规制所谓“算法成瘾”的理论框架；引入了一项可量化的“成瘾强度指数”；并进一步确立了一项以“最低可接受成瘾强度水平”为核心的政策标准。归根结底，本文旨在探究一个看似简单却寓意深远的问题：既然数字平台具备塑造人类行为的能力，那么社会又该如何对这种权力施以必要的制约？
从物质成瘾到算法成瘾
传统的成瘾观念主要聚焦于各类物质——如酒精、尼古丁或毒品——即那些能够引发化学依赖的物质。然而，不断涌现的证据，以及Meta与YouTube相关案例所揭示的逻辑，均指向一种更为广泛的现象：成瘾不仅可能源于人们所摄取的物质，更可能源于各类系统对人们行为的塑造方式。
其中的关键区别在于：短期回报与长期福祉之间往往存在差异。人类天生倾向于追求即时满足、新奇体验、社会认可、情感刺激等。然而，这些短期回报并不总是与心理健康、生产力、自主性等长期利益相吻合。
算法系统恰恰利用了这一落差。通过持续学习何种内容最能吸引注意力，这些系统能够精准推送那些旨在最大化即时参与度的内容。久而久之，这便形成了一种特定的行为模式：用户在平台上投入的时间越来越多，而其整体福祉却在持续下降。
这正是我们所定义的“算法成瘾”：一种在用户与系统之间自适应交互作用的驱动下，用户参与度不断提升，而长期福祉却持续恶化的状态。值得强调的是，此处所指的成瘾并非仅仅是用户个体的某种属性，而是系统与用户之间特定关系的一种属性。
由此引申出一个更为深刻的结构性洞察：现代人工智能系统并非仅仅被动地响应人类的偏好，而是在积极地塑造这些偏好。在此过程中，系统构建了一个反馈循环，促使系统与用户双方不断地相互适应。这一反馈循环最终产生的后果究竟是有益还是有害，完全取决于该系统的具体设计方式。
成瘾的衡量：成瘾强度指数
若要对算法成瘾现象进行有效治理，首要前提是必须使其具备可衡量性。这绝非易事，因为成瘾并非单一维度的现象；它涵盖了行为、心理以及福祉等多个维度。
我们所提出的“成瘾强度指数”（Addiction Intensity Index），旨在将上述各个维度整合进一个统一的衡量框架之中。
首要维度是“行为维度”。该维度涵盖了一系列可观测的行为模式，例如用户在平台上停留的时长、回访的频率，以及是否持续超出其预设的使用时长等。其中一个关键的信号是“无法停止”——即用户尽管已萌生停止使用的意念，却依然无法自控地持续投入其中。
第二个维度是“心理维度”。这捕捉到了强迫性体验的主观感受：即那种无法抽离的感觉，当无法使用平台时随之产生的焦虑或不适感，以及那种觉得平台已变得难以抗拒的知觉。
第三个维度——也是最为关键的一个维度——是“福祉”。这一维度旨在探究：对平台的使用是否挤占了那些更具价值的活动，或者是否导致了睡眠紊乱、压力增大、事后懊悔等负面后果。通过问卷调查来询问用户是否在平台上花费了超出预期的时长，或者在使用后是否感到情绪低落，可以作为衡量这一维度的实用代理指标。
关键在于，成瘾绝非仅仅意味着高频率的使用。它指的是高频率的使用伴随着失控感以及福祉水平的下降。“成瘾强度指数”（Addiction Intensity Index）的设计初衷，正是为了精准捕捉并区分出这一本质差异。
从测量到监管：成瘾的最低标准
一旦成瘾可以被量化测量，设定限制便成为可能。本文提议确立一个“成瘾强度最低阈值”（Minimum Addiction Intensity Threshold），作为一项基准，用以界定系统被允许诱导的成瘾程度上限。
这种做法并非旨在消除用户的参与度或愉悦感。相反，它设定了一道边界：平台可以致力于优化以吸引用户注意力，但必须在不损害用户福祉的限度内进行。
若要行之有效，这一标准必须贯穿于人工智能系统的整个生命周期之中。
在设计阶段，开发者应评估“无限滚动”、“自动播放”以及“算法个性化推荐”等功能是否可能诱发强迫性的使用模式。在训练阶段，系统的优化目标不应仅限于提升用户参与度，还应包含最大程度地抑制成瘾机制。在测试阶段，平台应开展对照实验，以评估潜在的成瘾风险。系统部署上线后，还需通过持续监测与独立审计，确保其始终符合相关标准。
这标志着一种从“被动式”向“主动式”治理模式的转变。监管不再是坐等损害发生后再追究责任，而是在系统设计的伊始阶段便介入并加以规范。
信任、采纳与平台的战略性激励
人们自然会想当然地认为，平台方会对这类标准产生抵触情绪。毕竟，其商业模式正是建立在最大化用户参与度的基础之上；从表面上看，对成瘾性设计施加任何限制，似乎都意味着对营收构成了威胁。
然而，这种假设却忽略了一个至关重要的动态变化：公众信任正日益遭受侵蚀。
公众对于“算法成瘾”的担忧已不再是边缘化的议题。家长们开始限制子女使用社交媒体的时长；用户们试图通过“数字排毒”等方式来约束自己的使用习惯；各国政府与监管机构也在审慎考量实施禁令或限制措施的可能性。所有这些反应，都折射出一种深层的焦虑——即人们怀疑平台方并未真正将用户的利益置于首位。
这种“信任赤字”已然开始制约整个行业的增长势头及其正当性基础。
若有平台能够以令人信服的方式证明其严格遵守了“成瘾最低标准”，便能从根本上扭转这一局面。通过向外界展示“用户福祉”已内嵌于其产品设计理念之中，该平台将有效消弭用户的恐惧与抵触情绪。一旦信任得以重建，不仅潜在的用户群体将随之扩容，用户的长期参与度也能获得稳固的保障。
从短期来看，削弱成瘾性功能或许会导致用户使用强度的暂时性下降；但从长远来看，此举却能有效扩大用户基数，并确保用户参与度的可持续性。其最终结果，便是实现从一种脆弱且具有“掠夺性”的商业模式，向一种更为稳健且基于“信任”的商业模式的根本性转型。若能妥善校准，这一路径将提供一种难得的可能性：一种真正的“双赢”局面——社会因危害减少而获益，平台则因正当性提升及普及度增加而受益。
核心张力：福利与激励
核心挑战在于平衡两种相互竞争的力量。一方是平台激励机制，它倾向于最大化用户参与度；另一方则是社会福利，它要求限制过度参与所带来的有害影响。
若任其自由发展，平台往往会优先考虑短期参与度，因为这能直接推动营收增长。但这会产生一种负面外部性：成瘾所带来的社会成本并未完全由平台自身承担。
治理的作用正是为了纠正这种失衡。通过设定最低的“成瘾标准”，监管机构实际上重新界定了平台进行优化操作的边界。其目的并非要消除激励机制，而是要使其与社会利益相协调。
这类似于环境法规在不禁止工业活动的前提下限制污染，或是金融法规在不取缔市场的前提下约束风险。在上述各类情境中，其共同目标都是在防止系统性危害的同时，维护创新与增长。
成功的关键在于找到恰当的平衡点。如果标准过于严苛，可能会扼杀创新并损害用户体验；如果标准过于宽松，则无法有效解决问题。真正的挑战在于如何确定一个既能保障社会福利，又能让平台蓬勃发展的适度水平。
可行性与战略启示
从社会视角来看，进行干预的理由十分充分。这一议题本质上关乎“自主性”：即个体能否保有对其时间、注意力和选择的掌控权。
从技术视角来看，这一治理框架虽然尚不完美，但具有可行性。平台目前已在收集关于用户行为的详尽数据。主要的难点在于如何衡量“福祉”——这本身就是一个极其复杂的概念。尽管如此，诸如“后悔感”和“时间不一致性”等实用的代理指标，仍可作为切入这一问题的有效起点。
从政治视角来看，推动治理改革的势头虽在积聚，但发展并不均衡。欧洲已着手针对具有成瘾特性的设计功能实施监管；中国也已针对青少年用户的使用行为设定了限制（尽管其出发点可能有所不同）；而在美国，法律体系才刚刚开始涉足并探讨此类议题——Meta与YouTube的相关案例便是这一趋势的体现。
来自业界的阻力预计将十分巨大。然而，正如“信任论”所揭示的那样，那些具有前瞻性眼光的企业或许终将意识到：遵守监管规定并非一种负担，而是一种能够转化为竞争优势的宝贵资产。
结语：对“优化过程”的治理
人工智能系统的崛起标志着一种根本性的转变。这些系统不再仅仅是迎合人类的既有偏好，而是在主动塑造人类的偏好。正因如此，治理的范畴必须实现超越——不再仅仅局限于对“结果”进行监管，而应进一步延伸至对“优化过程”本身实施监管。本文提出的这一框架——以衡量并限制成瘾强度为核心——为解决这一问题提供了一条途径。它将一种道德关切转化为切实可行的标准，从而使治理这一复杂且不断演变的问题成为可能。
Meta与YouTube的相关案例，最终或许会被铭记为这一议题正式进入公众视野的关键时刻。它迫使我们直面一个全新的现实：当技术能够人为制造强迫性行为时，社会就必须学会人为设定限制。
人工智能治理的未来，将取决于我们能否妥善应对这一挑战。
杨建利博士是哈佛大学肯尼迪政府学院的研究员、国家利益中心（Center for the National Interest）的杰出访问学者，同时也是《国家评论》（National Review）的专栏作家。
原文链接：https://nationalinterest.org/blog/techland/from-meta-and-youtube-to-ai-why-platforms-need-limits-on-addictive-design
来源：国家利益（National Interest)