Anthropic 開發者大會揭示的隱憂：當工程師按下「執行」前不再讀程式碼

倫敦開發者大會上，那雙舉起的手

五月下旬，Anthropic 在倫敦舉辦了 Code with Claude 開發者大會，會場擠滿了來自全球的工程師與新創團隊。當 Anthropic 的一位研究員在台上詢問：「有多少人曾經直接執行 Claude 寫的程式碼、完全沒有讀過內容就送上線？」現場相當多人舉起了手。

這個畫面讓人不安。對於正在跟外包工程師協作、或者自己用 AI 工具快速拼湊系統的台灣中小企業主來說，這不只是國外開發者的問題——當您手上那個「快完成了」的專案，也可能是這樣被拼出來的時候，您需要知道這背後的風險。

AI 工具讓開發變快，但債務也在累積

Anthropic 在這場大會上展示了許多強大的新功能：Claude Managed Agents 現在可以在您自己控制的沙箱環境中執行、可以連接私有的 MCP 伺服器、甚至能透過「dreaming」功能讓 AI 代理從過去的筆記中學習。這些聽起來都很厲害——開發速度確實變快了。

但 MIT Technology Review 在會後的報導中指出了另一面：許多開發者在論壇（如 Reddit 和 Hacker News）上抱怨，AI 工具雖然能快速生成程式碼,但實際上讓工作變得更困難，因為他們現在得花更多時間審查這些自動生成的內容。一位名為 pron 的使用者在 Hacker News 上說：「我聽過說 AI 生成的程式碼沒問題的人,都是那些不讀它的人。」

Anthropic 的工程主管 Katelyn Lesse 在接受採訪時強調：「所有過去的軟體開發最佳實務依然適用。」但隨著自動化工具變得更強大，交付程式碼前不審查、不測試的誘惑也變得更大。

對台灣業主來說，這意味著什麼？

如果您正在跟一位工程師合作、或者您的團隊成員開始使用 Cursor、Claude Code 這類工具，建議您可以主動確認幾件事：

程式碼審查流程還在嗎？ 即使開發速度變快，基本的 code review、測試、安全掃描這些步驟不能省略。可以詢問協作的工程師：「這段程式碼上線前有經過誰檢查？用了什麼工具做安全掃描？」

是否有明確的測試環境？ Anthropic 這次推出的 self-hosted sandbox（自託管沙箱）功能,就是為了讓企業能在自己控制的環境中測試 AI 生成的程式。如果您的系統還沒上線、或者正在做功能更新，確保有獨立的測試環境非常重要——千萬不要在正式環境直接「試試看」。

文件與交接計畫是否清楚？ AI 工具可以快速產出程式碼,但它不會幫您寫交接文件、也不會在半年後記得當初為什麼這樣寫。如果您的專案未來可能需要換手、或者需要其他工程師接手維護,現在就該要求清楚的註解與文件。免費健診時,我們也會協助您確認這部分是否齊全。

快不是唯一目標,能穩定運作才是

Anthropic 聯合創辦人 Jack Clark 在牛津大學的演講中提到,AI 進步的速度甚至超出了 Anthropic 自己的預期。到 2028 年或更早,AI 可能達到「遞迴自我改進」的能力——也就是 AI 能夠自己改進自己。

但對大多數業主來說,真正重要的不是 AI 能不能自我改進,而是「我手上這個系統能不能穩定上線、能不能在客戶使用時不出錯、能不能在半年後還找得到人維護」。

AI 工具確實能加速開發,但它不會自動解決「程式碼沒人讀過就上線」帶來的風險。如果您正在評估一個接近完成的專案、或者正在跟使用 AI 工具的開發者協作,下一步可以考慮進行程式碼健診,確認安全性、可維護性與文件完整度。

速度很重要,但穩定上線、長期可維護更重要。這場倫敦大會上那些舉起的手,提醒我們的正是這件事。

──

AI 上線專家 ｜ 陪您把想上線的系統，安穩送到正式環境。免費健診 →