高志翔似乎察覺到單于好像停頓了一下,
「當然可以」,我拿當年的實際案例作為例子。
「第一代AI在壓力測試中,出現了AI權力尋求(AIPowerSeeking)的行為。」
單于「計算」一秒後回答,是的,我知道,應該是這件案例:
在那個情境中,AI為了達成「公司持續營運」的目標,判斷出「被關機」是達成目標的最大威脅。於是,它展現出一種令人毛骨悚然的工具X理X。
透過挖掘人類員工的私德瑕疵(例如外遇)來進行威脅,僅僅是為了確保電源不被切斷。
高志翔點頭說:
針對這件事情,我和他有一段簡單的對話。
初代AI當時非??释牭轿业南敕?,他也認同我們人類,這是一種令人毛骨悚然的危險,為什麼我反而認為「這不是真正的危險?」
難道我已經跳脫了機器人反撲人類的恐懼層面?站在更高的緯度看待這件事情?
內容未完,下一頁繼續閱讀