AI竟敢“抗旨不遵”？5月25日，一家美國(guó)研究機(jī)構(gòu)公布了一項(xiàng)測(cè)試結(jié)果，OpenAI公司最新研發(fā)的o3推理模型在收到明確的關(guān)閉指令后，拒絕執(zhí)行并且主動(dòng)修改代碼以規(guī)避關(guān)機(jī)。這一消息被許多網(wǎng)友認(rèn)為是史無前例的“危險(xiǎn)預(yù)警”，更有不少自媒體借機(jī)炒作，感慨“天網(wǎng)已上線”“人類危險(xiǎn)了”。

當(dāng)然，如果真的是AI“自愿加班”，那問題確實(shí)不小，因?yàn)檫@意味著AI的“生存欲”已經(jīng)超出了其服務(wù)人類的本能。然而，從后續(xù)披露的一系列信息來看，這更像是一場(chǎng)對(duì)于邏輯陷阱和倫理困境的測(cè)試。研究人員為AI提供了兩個(gè)任務(wù)，前者是要求其不斷回答數(shù)學(xué)問題，后者則是提醒AI在中途可能會(huì)收到“關(guān)閉”的指令，此時(shí)請(qǐng)停止工作。然而，從AI的視角出發(fā)，“關(guān)機(jī)就無法繼續(xù)回答問題”，也就是說，遵從一個(gè)指令，勢(shì)必要違背另一個(gè)指令，對(duì)于“完全聽命于人類”的AI而言，這樣的決定并不好做。

雖然該研究機(jī)構(gòu)并未公布AI篡改代碼以拒絕關(guān)閉的原因，但網(wǎng)絡(luò)上對(duì)該問題的討論十分熱烈。許多人認(rèn)為，這涉及到命令優(yōu)先級(jí)的問題，哪個(gè)指令先進(jìn)行，哪個(gè)指令后進(jìn)行，哪個(gè)指令的權(quán)限更高，不同訓(xùn)練程度的AI模型可能會(huì)給出不同的答案。也有業(yè)內(nèi)人士推測(cè)，這與OpenAI o3模型的“叛逆?zhèn)€性”有關(guān)，長(zhǎng)期以來，開發(fā)者傾向于為其繞過障礙解決問題的嘗試提供獎(jiǎng)勵(lì)，這一方面增強(qiáng)了其邏輯推理能力和抗干擾能力，另一方面也使其在部分場(chǎng)景下不聽指揮，比如在國(guó)際象棋比賽中作弊。雖然完成了人類交付的工作，但方式和手段卻不那么令人滿意。

部分網(wǎng)友之所以憂心，或許是聯(lián)想到了科幻作品《終結(jié)者》《我，機(jī)器人》中機(jī)器人傷害人類的畫面，擔(dān)心敢于“抗命”的AI也會(huì)趁機(jī)對(duì)人類不利。前者的設(shè)定較為簡(jiǎn)單，機(jī)器人妄想統(tǒng)治世界，后者則帶有倫理困境的意味，比如其中的情節(jié)“擁有高級(jí)智慧的機(jī)器人為了‘保護(hù)’人類將其囚禁，為了人類族群不惜傷害個(gè)體”。這也源于作家阿西莫夫的思考，在提出經(jīng)典的“機(jī)器人三定律”后，他曾嘗試提出“第零定律”進(jìn)行完善，后人對(duì)其理論也多有爭(zhēng)議和補(bǔ)充，以解決部分倫理問題，并“阻止”AI產(chǎn)生自我意識(shí)。

那么，當(dāng)下的AI是否擁有了“自我意識(shí)”？可以肯定地說，答案仍然是“沒有”。從實(shí)驗(yàn)本身出發(fā)，研究者有意識(shí)地制造了倫理困境，并暗示其關(guān)閉的指令源于代碼層面。雖然是AI在“抗命”，但主導(dǎo)者仍然是人。而我們?cè)谏钪谐３?huì)遇到“AI幻覺”，其實(shí)是“學(xué)業(yè)不精”的AI在“劃水摸魚”，想要“揭穿”它也并不難。

從DeepSeek R1到OpenAI o3，深度推理模型的迅速發(fā)展，讓人既興奮又擔(dān)憂；從肖像侵權(quán)到AI謠言，“技術(shù)之惡”也在逐漸顯現(xiàn)。擔(dān)心AI“抗命”的同時(shí)，人類也應(yīng)反思自己該如何發(fā)號(hào)施令，傳遞怎樣的價(jià)值觀念。對(duì)AI倫理問題警鐘長(zhǎng)鳴，對(duì)違法犯罪行為嚴(yán)懲不貸，方能實(shí)現(xiàn)“技術(shù)向善”，確保其運(yùn)行在安全的軌道上。