AI用到走火入魔？OpenAI股東生成「SCP風格文章」自以為揭發祕密組織陰謀

AI 語言模型 ChatGPT 功能日益發達，許多人心情低落時試圖向其尋求情緒價值，甚至有人自認為能從中挖掘到世界真相？近日一名 OpenAI 股東似乎 ChatGPT 使用過度，自以為挖掘出操控世界的的祕密系統，精神狀況引發外界擔憂。

創投公司 Bedrock 創辦人之一 Geoff Lewis 他投資 OpenAI 多年，聲稱自己長期透過 ChatGPT 追尋真相，並挖掘到一個足以對社會產生重大影響的「非政府系統」；他指控此系統已造成逾 7,000 人受害、12 人喪命，並分享多張文本截圖作為證據。

外界根據他的發文，認為他所分享的 ChatGPT 文本風格、言辭、邏輯上與網路上盛行多年的小眾虛構恐怖文學「SCP 基金會」類似，認為他可能受到 ChatGPT 回應內容而陷入幻想、影響身心狀態。

「SCP 基金會」是一個由各地網友共同創作超自然主題小說專案，常包含奇幻、科幻、恐怖元素。網友常以「SCP-XXX」編號命名撰寫「SCP 文件」，以類似學術研究的冷靜口吻描述各種虛構的異常生物與超自然現象。

雖然目前 ChatGPT 可設定網頁搜尋功能，讓部份使用者將其視為整理搜尋引擎資料的助手，但語言模型本質上仍會順著使用者的意願調整說話方式，因此用戶仍須手動查證正確資訊。

科技業 Podcast《This Week in Startups》主持人對此事表達關切，表示他們看不出 Geoff Lewis 是在「搞行為藝術」或是單純需要幫助。AI 創業家 Max Spero 甚至直言：「這可能是第一起 AI 引發精神錯亂案例，且發生在一名成功人士身上。」