講座筆記

主題介紹

• Anita 的節目「Anitea」討論 AI 暴走的可能性。
• 最近在觀看 ViuTV 的劇集《那年盛夏》、《我們讚芳如花》。
• 劇情涉及一間科技公司開發的 AI 失控，開始模仿並報復人類。

AI 暴走的可能性

• 許多人關心 AI 如 ChatGPT 會否因大量灌輸概念而自行宣傳或理解這些概念。
• 試圖用多人重複輸入某些觀念來影響 AI 的行為。

實驗與觀察

• 測試 ChatGPT 能否記住並重複某些宣傳概念。
• 初步嘗試未獲得預期效果，AI 並未直接學習和重複人類輸入的概念。

訓練與推斷

• 訓練（Training）：模式推出前的數據學習階段。
• 推斷（Inference）：使用者與模式的互動，並不直接影響模式的學習。
• 只有經過 OpenAI 審查通過的內容才可能影響下一次的訓練。

關於成功植入概念的可能性

• 重要的是概念的詳細性與多元性。
• 需要足夠的支持數據及多樣的觀點。
• 即使假設全港人口參與，影響力也僅佔 0.005%。
• 投入大量資源可能風險高，效果難以保證，且可能被後續更新覆蓋。

建議

• 植入概念到 GPT 並非不可行但難度高。
• 將資源投放在更穩健的投資上更有保障。
• 避免在高風險高成本的項目上投入過多。

結語

• 如果喜歡影片內容，請點讚和訂閱。
• 歡迎對科技有興趣的觀眾關注頻道，以便了解更多資訊。