脸书专页
粉丝交流群
RSS/FEED订阅韩联潮：AI是工具、不是洪水猛兽
转自：新世纪，文章内容并不代表本网立场和观点。
韩连潮 X
@lianchaohan
然而，从历史的角度和基本的工程常识来看，这些耸人听闻的AI毁灭论，基本是把不可能发生的、或尚未发生的极端情景，人为制造成迫在眉睫的现实威胁。道理如下：
首先，不能把“计算能力”错误地等同于“生物欲望”。
许多末日论调的一个核心漏洞，是把人类自身的进化特征强行投射到了硅基芯片上。人类之所以具有攻击性、征服欲和争夺权力的冲动，是因为数百万年来残酷的自然选择，将这些生存策略深深刻进了我们的生物机制和神经系统。但AI不是生物。它是人类利用算法、数据和计算能力构建出来的人工系统。
一个模型无论参数规模多么庞大、推演速度多么惊人，都不会因此自动获得饥饿、疼痛、繁殖冲动、死亡恐惧或领地意识。它可以被赋予目标，可以执行复杂任务，甚至表现出令人惊讶的自主规划能力，但“追求目标”与生物意义上的“欲望”并不是一回事。
指望一个没有生物进化史、没有生理需求的计算系统，凭空演化出人类式的权力欲、支配欲、（性欲？）和统治世界的虚荣心，再进一步产生消灭人类的杀心，更多还是文学和电影提供给我们的想象，而不是已经被证明的工程事实。
其次，人类文明史本身就是一部技术恐慌史。
纵观历史，几乎每一种具有颠覆性的关键技术诞生之初，都会伴随着恐惧甚至末日叙事。从印刷术普及后对道德秩序和社会失控的担忧，到19世纪铁路出现后关于高速旅行会导致人体损伤甚至精神失常的种种警告，再到20世纪核技术、基因工程带来的文明毁灭论——面对超出日常经验的新技术，人类社会本能的防御反应往往就是先想象最坏的结局。
我自己记忆犹新的是，二十年前转基因技术问世之初，包括知名学者在内的舆论曾恐慌万分，以为它会破坏生态、毁灭环境；我曾预测这种情况不会出现，相反，美国技术崇尚文化会击败欧洲国家主义干预，使转基因技术主导世界粮食生产。我论文指导老师之一不同意，引发激烈争论。后来的事实证明，转基因技术最终成为抵御粮食危机、滋养全球数十亿人的中流砥柱。如今对AI的恐慌，不过是这一历史宿命的再次重演。
但历史同样证明，技术从来不是在真空中狂奔。人类文明有着极其顽强的制度适应能力和工程纠错能力。我们从来没有消除蒸汽、高压、电力或核裂变本身的危险，而是通过安全阀、物理隔离、冗余设计、操作规范、法律监管以及国际核查等机制，把危险技术关进一个个受控的工程容器里。
AI也应该如此。
真正需要警惕的，不是AI觉醒，而是人祸。
否定“天网式”的末日预言，并不意味着盲目乐观。任何颠覆性技术都是一把双刃剑，AI当然也不例外。但AI真正现实而迫切的风险，很可能并不是它突然产生了什么神秘的邪恶意识，而是邪恶之人把它变成了邪恶的代理人。
心怀叵测的个人、极端组织或政权，可以利用AI放大网络攻击、信息操纵、诈骗以及其他危险活动的能力。过去一个人能够制造的破坏有限，AI却可能让一个人的能力被成倍放大。文明国家不要在AI发展初期就通过国家干预或自我限制把自己的手脚捆起来，让流氓政权和邪恶之人率先掌握这一关键技术。
当然，人类可能因为盲目追求降本增效，把原本不可放弃的决策权和控制权过度交给机器，甚至为了效率而拆除最后一道物理或人工安全阀。真正危险的不是机器“想要”夺走控制权，而是人类主动把控制权交了出去。与此同时，对AI革命造成的失业要提前布局，不能像全球化时，坐视劳动民众陷于困境。
而且，AI系统本身也可能出现我们没有预料到的错误、偏差和失控行为。复杂系统最可怕的地方，从来不是它怀有恶意，而是它可能在错误的目标、错误的数据或者错误的约束下，以惊人的效率把错误放大。
所以，我们真正需要的不是把AI当成洪水猛兽，更不是因为恐惧而试图阻止AI革命，而是与技术俱进，找到建立与合适的安全边界和责任机制。
汽车会撞死人，我们没有因此禁止汽车；飞机会坠毁，我们没有因此禁止航空；核能可能制造灾难，我们也没有因此让人类退回到煤油灯时代。我们做的是不断提高技术的安全性，同时明确谁应该负责、哪些事情必须由人控制、哪些红线绝不能越过。
AI也一样。
真正值得恐惧的，从来不是工具越来越聪明，而是人类越来越不负责任，邪恶之人越来越邪恶。
AI革命势不可挡，而历史上所有的野蛮政权与极端势力，从来不会真正遵守所谓的技术自律条约。与其因恐惧而画地为牢、自我捆绑，文明世界不如以绝对的技术超越，牢牢掌握战略主导权。
- 🔥免费PC翻墙、安卓VPN翻墙APP
- 🔥灵魂之谜|中华文化|治国大道
AI是工具，不是洪水猛兽。真正决定它将把人类带向哪里的人，始终是我们自己。
