Loss
Δ
量化預測與目標之間的差異。
小屁論 7.5
7.5 把 Δ–ψ–η 放進 AI 學習流程:模型透過 loss 讀出差異,透過 gradient 建立方向連結,再透過 update 進入新的交換狀態。
Loss = Δ / Gradient = ψ / Update = η
Core Idea
AI 界讓 7.0 回到一個非常具體的運算循環。模型先用 loss 知道自己差多少,這是 Δ;差異透過 gradient 建立修正方向,這是 ψ;更新後模型進入下一輪交換與回饋,這是 η。
這個循環不是只出現在 LLM。許多深度學習模型都依靠誤差、傳遞、修正與再評估來更新自己。從小屁論角度看,AI 學習不是單次答案,而是一套持續修正的語法迴圈。
7.5 也讓「語法生命」這條舊線和 7.0 接起來:如果 AI 的核心運作是一種自動化的 Δ–ψ–η,那麼人與 AI 的長期互動,就像在和一個會重複修正自己語法的系統對話。
Learning Cycle
Δ
量化預測與目標之間的差異。
ψ
把差異傳遞到參數空間,形成修正方向與可連接的意義路徑。
η
把修正方向推進到下一輪交換、生成與回饋。
new Δ
更新後重新面對差異,下一輪迴圈開始。