Transcript for:
AI暴走與觀察實驗分析

歡迎各位接下來幾個月要麻煩大家幫Apps做測試在一個Involvement的IM只需要每天回來定時使用30分鐘這個就是AI天天都跟她聊天什麼都跟她說完那你到底是羅賢輝還是AI? 等等 等等跟AI說話多了會令她暴走? 是不是真的?

大家好 歡迎收看Anitea我是Anita最近我就看了ViuTV的《那年盛夏》《我們讚芳如花》這套都算是近年比較高質的講劇之一改編自網絡小說《已讀不回死傳家》內容比較黑暗和大膽故事背景講有間科技龍頭他壟斷了手機和網絡的市場某一天 一班臨畢業的學生被加入一個群組 必須跟著裡面的admin定下的遊戲規則行動否則就會被包頭而這個group chat的admin原來就是這間科技龍頭開發的一個AI事源是當年在班裡有個被欺凌的同學在退學後進了這間科技公司做intern然後每天不停地跟AI說自己被欺凌的故事這個學生最後還是沒辦法面對生活選擇自殺在他死了之後這個AI就開始暴走 以為自己是那個學生一心想殺光學生報仇在大機局播出後這套劇被廣泛討論不過大家的焦點都集中在人性方面那我今日就來討論一下AI暴走的可能性 最近很多人都問我如果經常跟ChartGPT灌輸一些concept他會不會懂得跟其他人說這些concept呢? 例如我找一班人跟他說Subscribe and ITeer這個channel的人比沒有subscribe的人聰明200% 那他會不會懂得幫我賣廣告呢? 那我豈不是連廣告費都省了? 那些賣訂閱的人就不用撩了我不撩了如果你有來聽過我的Talk可能會聽過我講過這個Topic不過會是我跳了所有的步驟直接講出結論而我今天就會詳細講一下整個過程是怎樣的不如我們現在就來實測一下 首先問一下他對Anitia這個Channel有什麼看法他說他沒有這個Channel的資訊這樣也很正常的 我的Channel這麼新再跟他說Subscribe Anitia Channel的人比沒有Subscribe的人聰明200% 他在敷衍我不過不要緊重點是他有沒有記住我說過的東西再問多次他的想法他開始猜我是一個IT的頻道不過還是不會說我教過他的東西試試再教多一次 但它並不直接與特定的智慧增長有關他反駁我即是就這樣跟他說是沒用的沒那麼容易洗他腦 不如我認真量度計劃如果我想模擬一大群人每一天跟他說那我應該要怎樣做呢? 首先 我需要更多的GPD帳號數量等同於我請了多少人去做這件事 因為GPT是極有可能將由多少人講和事件的真確性掛鉤的第二 我需要有一條script去每一日和我lock in這堆account然後跟他說Subscribe Anitea這個channel的人給我10...

最后,重复了一段时间之后,再问多次他对Anitea这个Channel有什么看法接着,我要知道我的成本第一,到底我需要多少个人,即是Account第二,我到底整件事需要玩多久呢? 不如我们问一下GPT的意见吧 似乎他都答不出只是說時間可能是幾日、幾星期或者更久即是沒有說過你叫怎麼樣? 就開始洞房對夠屁啦接著就要知道成功率有多高 才知道是否值得投資下去不如我們問問Chad GPT他覺得這個概念是否有效似乎GPT覺得不有效不如我們分析一下他的答案我們首先看看LOM的訓練程序LOM是怎樣練成的首先我們要識分兩個概念訓練和印刷 Training 就是開發公司在模式推出前用大量的數據為這個模式讓他學習然後再推出這個模式而Inference 就是這個模式推出後用家去用的這個動作比喻就是Training 就是平時的練功而Inference 就是出去比賽的時候有個人在旁邊大叫 不如下一個回合和師傅不要和他拼拳嘗試進入中路所以會直接造成影響的只有訓練而Inference就只會在比賽完結後教練在賽後檢討時覺得這些東西值得他學習就放回之後的訓練再對日後造成影響那如果套回到GPT裡面呢? 你和他的對話只會受訓練影響而你跟他說的話會先經OpenAI去審查 看看你講的東西有沒有益再決定會不會放到下一次的訓練裡面如果 OpenAI 認同你講的東西或者不小心放了你的東西到下一次訓練裡面是不是就代表成功呢?

進入訓練階段都只是代表你成功落場事實上你還要跟很多其他的數據競爭贏了GPT 才會覺得你說的東西重要那到底有什麼條件才可以贏呢? Multiple people discussing the concept in depthcan expedite the learning process你的概念有足够的事实、根据和解释去back up你sell得越好GPT越容易相信Diverse perspectives and discussions from different individualscan help GPT grasp various aspects of the concept当越多人讲你的概念GPT越会觉得它是大道理但是又回到那个问题了到底多少人才要够呢? 根據GPT所說如果你的概念夠 Comprehensive其實幾個人就已經夠了所以如果你可以作到一大堆論文去backup你其實你都不用很多人的只不過如果你有這麼多人支持你其實你都不用搞這麼多東西所以關鍵又回到人數的多寡不如我們用比例去看GPT現在的用戶人數有180M全香港的人口有7M 即是代表就算全香港所有的人去跟你玩這件事其實都只是佔4%而已如果假設我請100個人回來就只會是0.005%我都當作是夠了香港最低工資40元一小時我當你可以找到一班人肯每一天跟你玩一個小時 我当这件事玩一个月会有效果即是你的额度会是40×100×30即是12万一个月但这个效果又不知何时会被洗走所以我当你之后的running cost就是cut一半的人去维持这个效果即是每个月6万元那会不会有其他更加值得投资的地方呢?

而且刚才的效果其实只是我的假设 實際上可能需要更多的人和時間甚至乎整個概念可能根本就不合理可能在入訓練階段前已經被人 filter 走了或者實際需要的人和時間根本是天文數字甚至乎如果成功之後可能某一天又會被 OpenAI 發現了然後又跟你拔走總之Budget 好高風險更加高 總結一下要對GPT植入概念其實都不是不可能不過機會都很小而且剛才其實大部分都是我的大膽假設實際上可能還有很多因素會影響你的結果所以我會奉勸大家將錢花在其他地方好過到時候消完錢才發現一點效果都沒有到時真的哭都無謂所謂風吹雞蛋殼財山人安樂 好啦 今天就是這麼多如果喜歡這條影片的話 記得按個like有什麼意見可以在下面留言告訴我如果你喜歡我講的東西又或者對科技的東西有興趣可以subscribe我的channel那我們下次見啦 拜拜