W 亂報 Re:Post · w.repost.tw · 自家機房排版印行
相關收藏 · 編輯順手多剪的

影片 · Shorts
排版中
W 亂報 Re:Post · w.repost.tw · 自家機房排版印行

影片 · Shorts
來源:影片畫面擷取自 YouTube/Nick Saraev
Nick 也用 choice architecture 與預設值說明,選項從來不是中性排列。課程引用器官捐贈的 opt-in/opt-out 差異,說明不做選擇時自動生效的項目,會大幅改變最後結果。不過他延伸出的「阻力增加三倍,行為就減少三倍」比較接近個人操作準則,不能當成跨情境都成立的固定比例。
課程中段依序講 expected value、power law、chain law、local/global maxima、map and territory、Goodhart's law、Bayes' theorem、Fermi approximation 與 planning fallacy。它們不是同一套公式,而是分別處理不同錯誤:只看結果、不看機率;只改善局部、忽略整條鏈;把描述現實的模型當成現實本身;以及把指標變成目標後,反過來扭曲行為。
判斷品質不能只看結果,因為壞方法也可能暫時得到好結果。Nick 因此要求重要決策先留下當時使用的機率、估算與理由,事後檢查的是推理過程,不是只用成敗替原本的選擇找理由。
好結果不能回頭證明原本的決策方法是對的。
保留當時的機率與理由,才能在運氣和判斷之間做區分。
planning fallacy 的例子可追到 Bent Flyvbjerg 等人在 2002 年整理的 258 件交通建設:總值約 900 億美元,九成低估成本,平均超支約 28%,其中鐵路平均約 45%。它支持的不是每項工作都要乘上同一個倍率,而是規劃者應參考同類案件的實際分布,不能只沿著腦中的順利版本估時程。
最後一大段處理 akrasia,也就是知道該做什麼卻沒有去做。Trigger-action plan 把意圖寫成「當 X 發生,我就做 Y」;Gollwitzer 與 Sheeran 在 2006 年整理 94 組獨立研究,發現這類 implementation intentions 對達成目標有中到大的整體效果。Nick 示範的版本很具體:手機在工作區亮起,就把它移到另一個房間;一坐到桌前,就先打開真正要做的文件。
pre-mortem 則先假設計畫已經失敗,再回頭列出原因;五分鐘 resolve cycle 要求遇到「之後再處理」時,先真的試著解五分鐘。這些方法共同做的事,是把抽象原則接到可辨認的觸發點,縮短「知道」和「開始做」之間的距離。
Nick 最後把前面的 Bayes、planning fallacy、pre-mortem 與 Fermi approximation 全部接到 AI。Anthropic 在 2023 年測試五個 AI assistants 與四種文字任務,發現模型會迎合使用者已表明的立場;人類偏好資料也可能獎勵較討喜、卻不一定較真實的回答。直接問「這是不是好點子」,很容易拿回包裝得更完整的原意。

來源:影片畫面擷取自 YouTube/Nick Saraev
他的替代流程是先自己寫出計畫,再要求 AI 假設它錯了、找出最強反例、估算同類案例的成功比例,或替六個月後的失敗寫 pre-mortem;人再根據攻擊結果修改,最後用自己的話寫下決定。AI 在這套流程裡最適合當反方,而不是替人簽下結論。
AI 最有用的位置是反駁,不是代替人承擔結論。
先寫、再攻擊、再修改,最後一句仍由人自己完成。
這套課程最穩妥的讀法,是把它當成一張有來源線索的索引,而不是一份所有數字都能直接套用的操作手冊。Cowan 的工作記憶、Flyvbjerg 的建設超支、implementation intentions 與 Anthropic 的迎合研究都有可追查的文獻;Nick 自己提出的固定倍率、成長百分比與商業成績,則仍是他的經驗、估算或自述。
原文出處(5)
How to Think Clearly In The Era Of AI: Full Course (5 Hours)
影片 · Nick Saraev · youtube.com
本文主要來源
The magical number 4 in short-term memory: A reconsideration of mental storage capacity
文章 · Nelson Cowan · doi.org
工作記憶容量
Underestimating Costs in Public Works Projects: Error or Lie?
文章 · Bent Flyvbjerg et al. · papers.ssrn.com
258 件交通建設成本研究
Implementation Intentions and Goal Achievement: A Meta-analysis of Effects and Processes
文章 · Peter M. Gollwitzer & Paschal Sheeran · doi.org
if-then plans 的後設分析
Towards Understanding Sycophancy in Language Models
文章 · Anthropic · anthropic.com
五個 AI assistants 的迎合行為研究

影片 · YouTube

影片 · Shorts