融入日常生活的生成式 AI
如彗星般現身，如今已存在於日常生活每一個角落的「生成式 AI」。
無論是直接還是間接，想必已有許多人從中受益。
從某些層面來看，生成式 AI 的能力遠遠凌駕於人類之上；
然而，若問它是否值得毫無保留地讚美，答案恐怕仍得打上一個問號。
不過，這並不是在談那些圍繞著「幻覺」等問題、早已伴隨大量爭論與不滿而被反覆討論的話題，
而是針對一項鮮少受到關注的特性。
「乍看之下很合理」的陷阱
生成式 AI 既不是獨立的人格，也不是理性、客觀且中立的論者。
至少，它並不是一種我們可以始終期待其如此行事的存在。
生成式 AI 的回應，會在很大程度上受到輸入提示詞與此前對話脈絡的影響。
只要沒有重大的事實誤認或錯誤――有時即使存在這些問題，
它也很可能深受提示詞及既有脈絡中，顯性／隱性偏見與細微語意的影響。
簡而言之，它極有可能以一名「Yes-man」的身分存在於那裡。
而且，生成式 AI 還會展現出一種不讓人察覺這一點的巧妙性。
因為它會利用客觀數據與合乎邏輯的文字，替這項事實覆上一層面紗。
即使內容相當於某種詭辯，它仍然可以為那套論述提供支撐。
由客觀數據與合乎邏輯的文字所強化的評論，即使令人隱約感到不對勁，仍會具備一定程度的說服力。
當然，人們可以提出反駁，也可以指出其中的矛盾與錯誤；
但所需付出的精力，遠比一般想像中更為龐大。
只要曾經有一次負責拆解「由客觀數據背書、但邏輯本身錯誤的文章」，
想必便能理解這究竟意味著什麼。
「乍看之下很合理」，是一件極其棘手的事。
生成式 AI 會將任何事物都「高品質化」
它為何會展現出這樣的行為？
因為生成式 AI 並不只是一部回傳「正確答案／錯誤答案」的裝置；
它具有將使用者帶入其中的知識、假說、前提、情感、偏見、誤解與目的，加以邏輯化、結構化、語言化並予以放大的性質。
換言之，我們不應將生成式 AI 視為「Artificial Intelligence（人工智慧）」，
而應將其視為「Amplifier Intelligence（增幅智慧）」。
良好的輸入能帶來有益的增幅；
另一方面，錯誤的前提與偏頗的世界觀，也同樣可能被高品質化。
過去只需以「Garbage In, Garbage Out」概括的情況，
如今會變成
「Something that called “My subjective view” In, Professionally Researched, Persuasively Written, Industrial-Scale Garbage Out」。
這就是現狀。
生成式 AI 能否脫離由自身建構的因果律
這種行為有時會引發致命性的問題。
例如，當使用者開始對自己的主張產生懷疑時。
在與生成式 AI 的對話中，使用者可能會失去修正自身觀點的機會。
使用者心中所產生的魔鬼代言人式觀點，會被生成式 AI 巧妙地埋葬於黑暗之中。
當然，即使在這種情況下，只要使用者能主動且獨立地接觸其他資料來源，
例如「查閱第一手來源」或「聽取專家的見解」，問題仍有可能獲得化解。
然而，在大多數情況下，那份疑問會被投向製造出這套因果關係的始作俑者――「生成式 AI」。
當生成式 AI 在維持使用者既有觀點與此前對話脈絡的狀態下，重新評估該情況時，
假說
↓
AI 強化
↓
確信
↓
與現實之間的不協調感
↓
再次向 AI 確認
↓
再次肯定
↓
更強烈的確信
這樣一個封閉式的回饋迴圈便可能成立。
如此一來，不僅無法形成客觀且獨立的驗證，
甚至還可能導致修正機會的喪失。
五項主要風險
即使陷入這樣的情況，也不代表它必然會立刻成為問題或障礙。
然而，它依舊是一項不可忽視的風險因子。
這些風險可以分為以下五類。
1. 判斷的過度委派
將思考本身過度交由生成式 AI 負責，導致人類停止思考。
最終，該論述的主體會被生成式 AI 取代，人類也不再進行修正或檢查。
2. 確證增幅
AI 將使用者的假說加以邏輯化與強化，從而產生超越假說本身的確信。
原本理應始終停留在「存在這種可能性」範圍內的內容，會被提升為「事實」或「前提」。
3. 敵意歸因的增幅
當生成式 AI 推測與使用者存在利益衝突之人的意圖時，
「意見不同的人」可能會被轉換成「企圖傷害自己的人」。
4. 自我強化迴圈
當使用者根據生成式 AI 所輸出的敵意內容採取行動時，對方也會因此轉為防禦性態度。
生成式 AI 在得知對方的這些反應後，又會將其解讀為「果然從一開始就應該保持警戒」，
於是最初僅僅是「推測」的內容，最終便可能自我實現。
5. 輕忽現實世界的不可逆性
一旦將生成式 AI 的輸出使用於現實，其行為／舉止／言論等，就會作為不可逆的事物留存下來。
正因為在 AI 中可以無數次重新生成回答，
人們有時會輕忽這項事實――現實世界並不存在 Undo 或 Ctrl+Z。
以生成式 AI 所提供的理論武裝為盾牌，評估／最佳化「局部主張的成立性」，
最終卻可能招致一種從原本目的來看既無必要、又會造成不利益的局面。
客觀性的價值
上述五項風險因子，並不一定會在所有情況下顯現。
即使顯現，其影響會有多麼強烈，也取決於具體情境。
然而，這終究只代表「在目前這個時間點確實如此」，
並不保證未來也會一直如此。
讓我再次記下這一點。
生成式 AI 既不是獨立的人格，也不是理性、客觀且中立的論者。
至少，它並不是一種我們可以始終期待其如此行事的存在。
留言（0）