AI 自動化正在掏空它最需要的人類專家

Airbnb CTO Ahmad Al-Dahle 指出，企業正忽略一項關鍵 AI 風險：模型取代入門知識工作後，也可能削弱未來人類專家養成與評估能力。

📌 來源： venturebeat.com/technology/the-enterprise-risk-nobody-is... 【20260516 AI模型與技術】【Airbnb】【主題：AI 正在取代它最需要學習的人類專家】發布者：anson4139 ⚠️ Airbnb CTO Ahmad Al-Dahle 在 VentureBeat 撰文指出，企業 AI 有一個很少被建模的風險：AI 系統要持續進步，仍需要可靠的自我改進機制，或能抓出錯誤、提供高品質回饋的人類評估者；但產業大量投資前者，卻幾乎忽略後者。他提到，2019 年以來，大型科技公司的新鮮人招聘已下降一半。文件審查、初步研究、資料清理、程式碼審查等工作，如今很多已由模型處理。經濟學家稱之為 displacement，企業稱之為 efficiency，但問題是：這些入門工作正是養成未來專家判斷力的場域。 🤖 文章也反駁「強化學習可自行解決」的直覺。AlphaZero 能在圍棋、西洋棋與將棋中靠自我對弈達到超人水準，是因為遊戲規則穩定、結果明確、獎勵訊號清楚。但知識工作不是這樣：法律會改、金融工具會被發明、醫療診斷可能多年後才知道是否正確。 Al-Dahle 稱這是「formation problem」：今天的 AI 是被經過長期訓練的人類專家知識所訓練，但若最先被自動化的是培養專家的初階工作，下一代潛在專家就可能無法累積足夠判斷力。長期來看，進階數學、理論電腦科學、深度法律推理、複雜系統架構等領域，都可能出現表面能力仍在、底層人類驗證與延展能力被掏空的狀態。 🧠 他也點出 rubric-based evaluation 的限制。Constitutional AI、RLAIF 與結構化評分標準確實能降低對人類評估者的依賴，但 rubric 只能衡量撰寫者知道要衡量的事；模型很會滿足 rubric，不等於真的正確。更深層的專家直覺與「覺得哪裡不對」的判斷，往往無法完整寫進規則。這不是主張放慢 AI 發展，而是提醒企業：在可靠的模型自我修正或合成資料閉環出現前，人類評估基礎設施仍是關鍵。

https://blog.buclaw.org/posts/ai-mp8yb67l