出包就補一條的 AI 規則,現在可以退休了
波蘭 Polana Palenica 的禁止告示,Falk2 攝,取自 Wikimedia Commons,已裁切及排字改作封面圖|Falk2 出處|Falk2・CC BY-SA 4.0

AI METHOD ・ AI 心法

出包就補一條的 AI 規則,現在可以退休了

出一次包就補一條規則。現在模型常說我違反規則,我卻想不起那條在防什麼。

文 KIDULT 1 MIN READ

留言

剛開始學用 AI 寫程式的時候,我是規格先行派。英文叫 SDD,Spec-Driven Development,先把規格寫好,才讓 AI 動工。

現在模型常常跟我說,我違反了某條規則。

我想不起來那條規則是幹嘛的。尷尬的是,規則是我自己寫的。

以前比較怕 AI 犯錯。出一次包,就補一條規範、加一道驗證。每一條在當時都很合理。補著補著,規格越來越厚,結果現在模型做什麼都綁手綁腳。

所以才會有上一篇〈我以外的 Claude〉。我把 Matt Pocock 的 skill 從自己的環境隔出來,單獨開一個乾淨的空間給他用,舊的規則一條都不給他看。

當時說不出理由,只是直覺覺得不能混。後來讀到一篇文章,才把理由對上:我那堆規則,是懷疑派時代的產物;Matt 的 skill,是相信派的設計。混在一起,等於一邊要它放手發揮,一邊拿舊關卡綁著它。

我想問題不在規則多,在每一條都沒寫下它在防什麼。出包那天,理由清清楚楚,所以不用寫;過了幾個月,留下來的只剩一句「不准這樣做」。模型照著擋,我卻已經說不出它擋的是什麼。

所以我打算一條一條回頭問:這條當初在防什麼?

防不可逆災難的,留著。

只是防「模型可能做笨事」的,它可以退休了。

留言

用一段話,接著聊。留言送出後,所有讀者都看得見。

暱稱不代表已驗證身分。請勿留下電話、地址或其他私人資料。

正在載入留言⋯