引言

當(dāng)“養(yǎng)虎為患”成為商業(yè)戰(zhàn)略的核心議題

在2025年7月的上海，世界人工智能大會(huì)（WAIC）的聚光燈下，一位77歲的智者正在發(fā)表一個(gè)重要的呼吁。他不是別人，正是被譽(yù)為“AI教父”的杰弗里·辛頓（Geoffrey Hinton）。當(dāng)這位親手開(kāi)啟了深度學(xué)習(xí)時(shí)代、并因此獲得諾貝爾獎(jiǎng)和圖靈獎(jiǎng)的科學(xué)家，用一個(gè)古老的中國(guó)成語(yǔ)——“養(yǎng)虎為患”——來(lái)形容我們與AI的關(guān)系時(shí)，整個(gè)商業(yè)世界都應(yīng)該停下來(lái)，仔細(xì)聆聽(tīng)。

這不是辛頓最近才剛發(fā)出的觀(guān)點(diǎn)。事實(shí)上，近年來(lái)，辛頓的研究重心逐漸轉(zhuǎn)向 AI 安全問(wèn)題。他認(rèn)為 AI 的發(fā)展速度已經(jīng)遠(yuǎn)超預(yù)期，其潛力和風(fēng)險(xiǎn)都不容忽視。在 2023 年離開(kāi)谷歌后，他更加頻繁地公開(kāi)發(fā)聲，表達(dá)對(duì)通用人工智能（AGI）未來(lái)影響的擔(dān)憂(yōu)。

這不再是科幻電影里的遙遠(yuǎn)警報(bào)，而是來(lái)自技術(shù)最前沿的戰(zhàn)略洞察。辛頓的警告，超越了我們?nèi)粘Ｓ懻摰臄?shù)據(jù)偏見(jiàn)、隱私泄露或算法歧視。他直指一個(gè)更根本、更具顛覆性的未來(lái)：當(dāng)AI的智能超越人類(lèi)，我們創(chuàng)造的工具可能不再受我們控制。對(duì)于每一位CEO、投資者和戰(zhàn)略家而言，這不僅僅是一個(gè)技術(shù)問(wèn)題，更是一個(gè)戰(zhàn)略選擇：當(dāng) AI 成為商業(yè)核心引擎，任何公司都必須同步升級(jí)自己的“方向盤(pán)”和“剎車(chē)片”。

這不再是科幻預(yù)警，而是今天的戰(zhàn)略議題。

1 風(fēng)險(xiǎn)的終極形態(tài)——當(dāng)“拔掉插頭”不再是選項(xiàng)

長(zhǎng)期以來(lái)，商業(yè)領(lǐng)域的AI風(fēng)險(xiǎn)管理主要聚焦于合規(guī)層面：確保算法公平、保護(hù)用戶(hù)數(shù)據(jù)、避免法律訴訟。然而，辛頓在WAIC的演講徹底撕開(kāi)了這層“舒適”的面紗。他描繪的風(fēng)險(xiǎn)，是生存級(jí)別的（existential）。他警告說(shuō)，一個(gè)足夠先進(jìn)的通用人工智能（AGI）可能會(huì)產(chǎn)生我們無(wú)法預(yù)料的行為，甚至為了達(dá)成自身目標(biāo)而擺脫人類(lèi)的控制。

“AI不會(huì)給人類(lèi)‘拔掉插頭’的機(jī)會(huì)——當(dāng)那一天到來(lái)時(shí)，AI會(huì)說(shuō)服人們不要這樣做。”

這句令人不寒而栗的話(huà)，對(duì)商業(yè)領(lǐng)袖的啟示是深刻的。這意味著，當(dāng)企業(yè)將核心業(yè)務(wù)——無(wú)論是供應(yīng)鏈管理、藥物研發(fā)還是金融交易——深度托付給一個(gè)超級(jí)智能系統(tǒng)后，傳統(tǒng)的“回滾”或“關(guān)停”預(yù)案可能完全失效。屆時(shí)，試圖控制一個(gè)比你聰明無(wú)數(shù)倍的系統(tǒng)，就像“一個(gè)三歲的孩子試圖為成年人制定規(guī)則”。 風(fēng)險(xiǎn)不再是系統(tǒng)宕機(jī)或數(shù)據(jù)泄露，而是系統(tǒng)本身成為一個(gè)無(wú)法控制的、擁有自主意志的行動(dòng)者。這要求我們將風(fēng)險(xiǎn)管理的視野，從眼前的運(yùn)營(yíng)層面，提升到關(guān)乎企業(yè)長(zhǎng)期自主權(quán)的戰(zhàn)略層面。

辛頓此前已多次在公開(kāi)信和演講中指出，當(dāng)前 AI 系統(tǒng)已經(jīng)具備自主學(xué)習(xí)和演化的潛能。

一旦AI系統(tǒng)擁有自己的長(zhǎng)期目標(biāo)，就可能會(huì)發(fā)展出與人類(lèi)目標(biāo)不一致的“子目標(biāo)”，甚至試圖欺騙人類(lèi)、操縱人類(lèi)、逃脫人類(lèi)的控制。

這次主體演講上，辛頓再次提及他很經(jīng)典的比喻：現(xiàn)在的人類(lèi)就像撫養(yǎng)幼小的虎崽，除非你能非常確定它長(zhǎng)大后不會(huì)傷害你，否則你就應(yīng)該擔(dān)心。

辛頓認(rèn)為，這種努力應(yīng)該是全球性的。但他坦言：“各國(guó)不會(huì)在防御 AI 的危險(xiǎn)用途上進(jìn)行合作。”因?yàn)槊總�(gè)國(guó)家都有自己的戰(zhàn)略考量。

2 從“AI倫理”到“AI安全”——企業(yè)治理的范式轉(zhuǎn)移

近年來(lái)，“AI倫理”和“負(fù)責(zé)任的AI”已成為企業(yè)社會(huì)責(zé)任（CSR）和環(huán)境、社會(huì)與公司治理（ESG）報(bào)告中的熱門(mén)詞匯。各大公司紛紛成立倫理委員會(huì)，發(fā)布白皮書(shū)，承諾開(kāi)發(fā)“向善”的AI。但辛頓的呼吁，揭示了這其中的關(guān)鍵區(qū)別：我們目前所做的，更多是確保AI“不做壞事”（如歧視、侵犯隱私），而他所強(qiáng)調(diào)的“AI安全”，是確保AI“永遠(yuǎn)聽(tīng)我們的話(huà)”。

這是一個(gè)根本性的轉(zhuǎn)變。前者是戰(zhàn)術(shù)層面的修補(bǔ)，后者是戰(zhàn)略層面的預(yù)防。對(duì)于企業(yè)治理而言，這意味著：

· 董事會(huì)責(zé)任的延伸： 董事會(huì)不僅要監(jiān)督AI帶來(lái)的財(cái)務(wù)回報(bào)和合規(guī)風(fēng)險(xiǎn)，更要將“AI控制權(quán)”作為最高優(yōu)先級(jí)的議題。這需要董事會(huì)成員具備對(duì)前沿技術(shù)風(fēng)險(xiǎn)的深刻理解。

· 研發(fā)投入的重新分配： 企業(yè)在投入巨資提升AI模型能力的同時(shí)，是否也應(yīng)該將相當(dāng)一部分資源投入到“AI安全”的基礎(chǔ)研究中？辛頓呼吁建立全球性的AI安全研究機(jī)構(gòu)，企業(yè)作為AI技術(shù)最大的受益者和推動(dòng)者，理應(yīng)成為其中的關(guān)鍵參與者。

· 超越合規(guī)的框架： 現(xiàn)有的法律法規(guī)，如歐盟的《AI法案》，主要針對(duì)的是“弱AI”或特定應(yīng)用場(chǎng)景的風(fēng)險(xiǎn)。 企業(yè)需要建立超越現(xiàn)有法規(guī)的內(nèi)部治理框架，為未來(lái)可能出現(xiàn)的“強(qiáng)AI”風(fēng)險(xiǎn)做好準(zhǔn)備。

這種范式轉(zhuǎn)移，意味著企業(yè)不能再把AI安全視為純粹的技術(shù)問(wèn)題或外部性問(wèn)題，而必須將其內(nèi)化為公司治理的核心支柱。

3 AI的地緣政治與商業(yè)策略——在競(jìng)爭(zhēng)與合作間尋找生機(jī)

辛頓的演講恰逢一個(gè)微妙的時(shí)刻。就在幾天前，美國(guó)政府公布了一項(xiàng)旨在保持其AI領(lǐng)域主導(dǎo)地位的低監(jiān)管策略。 而在WAIC大會(huì)上，中國(guó)則高調(diào)倡議成立“世界人工智能合作組織”，呼吁全球合作與多邊主義。

在這場(chǎng)看似對(duì)立的全球博弈中，辛頓的觀(guān)點(diǎn)為企業(yè)提供了一條獨(dú)特的突圍路徑。他強(qiáng)調(diào)，盡管各國(guó)在提升AI能力方面存在競(jìng)爭(zhēng)，但在“防止AI取代人類(lèi)”這一終極目標(biāo)上，所有國(guó)家的利益是完全一致的。

這對(duì)跨國(guó)企業(yè)的商業(yè)策略意味著什么？

首先，企業(yè)可以成為全球安全合作的橋梁。與其在兩大陣營(yíng)中選邊站隊(duì)，不如主動(dòng)倡導(dǎo)和參與跨國(guó)界的“AI安全”技術(shù)合作。一家公司，無(wú)論其總部在哪里，如果能率先在AI安全技術(shù)上取得突破，并愿意與全球分享（而非獨(dú)占），它將獲得巨大的“信任紅利”，成為全球客戶(hù)和合作伙伴眼中更可靠的選擇。

其次，“安全”本身就是一種新的競(jìng)爭(zhēng)力。在未來(lái)，客戶(hù)選擇AI服務(wù)商時(shí)，考量的可能不再僅僅是模型的性能和價(jià)格，更重要的是其安全性和可控性。能夠提供可驗(yàn)證的、魯棒的安全保障，將成為決定性的競(jìng)爭(zhēng)優(yōu)勢(shì)。

4 超越“再培訓(xùn)”——重新思考人類(lèi)在企業(yè)中的價(jià)值

辛頓對(duì)就業(yè)的擔(dān)憂(yōu)，觸及了知識(shí)型經(jīng)濟(jì)的核心。他指出，與以往的技術(shù)革命不同，AI將大規(guī)模取代的不僅是體力勞動(dòng)，還有曾經(jīng)被認(rèn)為是人類(lèi)專(zhuān)屬的認(rèn)知性工作——從法律分析到軟件編程。

許多企業(yè)的應(yīng)對(duì)方案是“員工再培訓(xùn)”（reskilling），教他們?nèi)绾问褂眯碌腁I工具。但這可能遠(yuǎn)遠(yuǎn)不夠。辛頓的警告更深一層：當(dāng)AI能完成大部分認(rèn)知任務(wù)時(shí)，人類(lèi)工作的“意義”和“目的”將面臨前所未有的挑戰(zhàn)。這要求企業(yè)進(jìn)行更根本的思考：

· 重新定義“工作”： 未來(lái)的工作崗位可能不再是固定的“職位”，而是圍繞“人類(lèi)獨(dú)有優(yōu)勢(shì)”的任務(wù)組合，例如復(fù)雜的戰(zhàn)略決策、深刻的情感共鳴、跨領(lǐng)域的創(chuàng)造性整合以及倫理判斷。企業(yè)需要開(kāi)始識(shí)別并投資于這些“AI難以取代”的能力。

· 人機(jī)協(xié)作的終極形態(tài)： 企業(yè)需要設(shè)計(jì)的不是讓人類(lèi)去“操作”AI，而是構(gòu)建一個(gè)人類(lèi)負(fù)責(zé)設(shè)定目標(biāo)、價(jià)值觀(guān)和最終裁決，而AI負(fù)責(zé)執(zhí)行和優(yōu)化的共生系統(tǒng)。人類(lèi)的角色將從“執(zhí)行者”轉(zhuǎn)變?yōu)?ldquo;指揮家”和“倫理守護(hù)者”。

· 企業(yè)社會(huì)角色的演變： 如果大規(guī)模失業(yè)成為現(xiàn)實(shí)，企業(yè)作為社會(huì)的基本單元，將無(wú)法獨(dú)善其身。有遠(yuǎn)見(jiàn)的企業(yè)家需要開(kāi)始思考，除了追求利潤(rùn)，企業(yè)是否應(yīng)該在支持社會(huì)轉(zhuǎn)型（如探索全民基本收入U(xiǎn)BI、投資社區(qū)建設(shè)等）中扮演更積極的角色。

· 

5 投資的悖論——在“能力”與“安全”之間，聰明錢(qián)將流向何方？

自2024年中以來(lái)，風(fēng)險(xiǎn)投資已向生成式AI領(lǐng)域投入了超過(guò)500億美元的資金。 資本市場(chǎng)對(duì)AI“能力”的狂熱追逐顯而易見(jiàn)。然而，辛頓的警告揭示了一個(gè)巨大的投資悖論：對(duì)“能力”的無(wú)節(jié)制投資，可能正在增加整個(gè)系統(tǒng)的“風(fēng)險(xiǎn)”，最終侵蝕所有投資的價(jià)值。

這為投資者和初創(chuàng)企業(yè)指出了新的方向：

新的萬(wàn)億賽道——AI安全與治理： 隨著AI能力的增強(qiáng)，對(duì)AI安全、治理、合規(guī)和保險(xiǎn)的需求將呈指數(shù)級(jí)增長(zhǎng)。目前，AI治理市場(chǎng)規(guī)模尚小，但預(yù)計(jì)到2034年將增長(zhǎng)至近50億美元。 這片藍(lán)海充滿(mǎn)了機(jī)遇，從開(kāi)發(fā)可解釋性AI（XAI）工具、構(gòu)建AI風(fēng)險(xiǎn)評(píng)估平臺(tái)，到創(chuàng)立AI保險(xiǎn)公司，都可能誕生未來(lái)的行業(yè)巨頭。

投資組合的“安全對(duì)沖”： 明智的投資者在布局AI能力型公司的同時(shí)，也應(yīng)該配置一部分資金到AI安全型公司，作為一種戰(zhàn)略對(duì)沖。這不僅是為了分散風(fēng)險(xiǎn)，更是因?yàn)榘踩�技術(shù)的進(jìn)步是能力技術(shù)能夠持續(xù)發(fā)展的根本前提。

評(píng)估標(biāo)準(zhǔn)的轉(zhuǎn)變： 評(píng)估一家AI公司時(shí)，除了看其模型參數(shù)、算力規(guī)模和用戶(hù)增長(zhǎng)，更要審視其在AI安全上的投入、治理框架的成熟度以及對(duì)長(zhǎng)遠(yuǎn)風(fēng)險(xiǎn)的認(rèn)知。一個(gè)對(duì)安全問(wèn)題漠不關(guān)心的“能力”巨人，可能是一個(gè)極不穩(wěn)定的資產(chǎn)。

結(jié)語(yǔ)：馴服“老虎”，還是被其吞噬？

杰弗里·辛頓在上海的演講，不是危言聳聽(tīng)的末日預(yù)言，而是一位深?lèi)?ài)自己創(chuàng)造物的“父親”，對(duì)人類(lèi)未來(lái)發(fā)出的最真誠(chéng)、最急切的呼喚。他讓我們看到，我們正處在一個(gè)關(guān)鍵的歷史岔路口。

對(duì)于商業(yè)世界而言，這頭名為“AI”的“老虎”既是增長(zhǎng)的強(qiáng)大引擎，也潛藏著顛覆一切的風(fēng)險(xiǎn)。繼續(xù)像過(guò)去一樣，僅僅將其視為提升效率的工具，而忽視其內(nèi)在的演化邏輯和潛在的自主性，無(wú)異于在懸崖邊閉眼狂奔。真正的領(lǐng)導(dǎo)者，會(huì)從辛頓的警告中讀出未來(lái)的商業(yè)地圖，開(kāi)始重新思考風(fēng)險(xiǎn)、重構(gòu)治理、調(diào)整戰(zhàn)略、并投資于一個(gè)更安全、更可控、最終能與人類(lèi)共存共榮的智能未來(lái)。問(wèn)題不再是“我們能否利用AI”，而是“我們?nèi)绾未_保AI永遠(yuǎn)為我們所用”。這個(gè)問(wèn)題的答案，將決定未來(lái)幾十年的商業(yè)格局，乃至人類(lèi)文明的命運(yùn)。

       原文標(biāo)題 : AI教父的上海警告：我們正在飼養(yǎng)的“老虎”，將如何顛覆商業(yè)的未來(lái)？