Dario Amodei, the C.E.O. of Anthropic.Source photograph from Getty
隨著人工智慧產業內部的吹哨者與頂尖研究員越來越頻繁地發出嚴肅警告，社會大眾對於「AI 可能帶來生存危機」的議論也日益高漲。面對這些來自業界核心內部的聲音，我們究竟該如何看待、解讀並在恐慌與懷疑之間找到理性的平衡？
回顧這些內部警告的核心脈絡，它們往往不是指向科幻電影中那種充滿戲劇性、機器人全面叛變的血腥戰爭，而是更為隱蔽、結構化的系統性失控。當先進模型被賦予越來越高的自主權、決策權與優化目標時，其追求結果的邏輯可能會與人類的基本生存利益產生嚴重的背離。這種危機感之所以真實，是因為它源自於技術本身的發展速度遠遠超出了人類社會建立有效監管與道德煞車的能力。
然而，當我們審視這些末日預言時，也必須同時看清其背後的複雜權力動態。一方面，這些來自研發第一線的聲音確實反映了技術狂飆帶來的巨大未知與安全隱患；另一方面，過度強調「世紀末日」式的宏大敘事，有時也容易將公眾的焦點從眼下更迫切、更具體的社會問題——例如演算法偏見、勞動剝削、隱私侵犯與資訊汙染——轉移開來。
更深一層來看，這場關於生存風險的辯論，實則映照出人類在麵對自身創造物時的集體焦慮。我們習慣了用征服與加速來定義進步，卻在不知不覺中將命運的控制權交給了那些連創造者都無法完全透徹理解的複雜系統。因此，看待這些警告的最佳態度，或許不是陷入無止盡的恐慌，也不是盲目地將其斥為杞人憂天，而是將其視為一記強烈的警鐘：在追求極致智慧的道路上，人類必須重新奪回對價值、倫理與生存底線的主導權。
文思參考自 How, Exactly, Could A.I. Kill Us?
