AI 能放心交多少工作？
「拜託不要刪任何東西。拜託不要碰我的密碼。」這句話來自 NVIDIA 執行長黃仁勳在德國柏林的一場演講，是演講裡播放的 OpenShell 介紹影片的旁白。聽起來像個玩笑，但背後其實藏著一個很現實的問題。
以前 AI 回答錯了，我們大不了再問一次。但現在的 AI Agent，已經可以直接操作電腦、整理檔案、寄送郵件，甚至自己寫程式。當 AI 開始替我們動手做事，一個錯誤，可能就不只是答案不對這麼簡單。
那麼，AI 到底進步到什麼程度？我們又能放心把多少工作交給它？這篇從黃仁勳這場演講出發，加上今年的研究，看看 AI 已經能做到什麼、還有哪些風險，以及我們普通人該怎麼用好這些工具。
AI 從教你做，變成替你做
黃仁勳這次講了九十多分鐘，從 AI Agent 講到機器人，還有 AI 會怎麼改變各行各業。但我覺得，最值得注意的改變其實很簡單：
AI 開始從告訴你怎麼做，變成真的替你動手做。
舉個例子。假設你的電腦裡有三百份工作文件：會議紀錄、報價單、發票，還有各種不知道什麼時候下載的檔案。以前你問 ChatGPT 怎麼整理，它可能會教你分類、重新命名，甚至幫你寫一段程式，但最後通常還是要你自己動手。
現在，你可以直接告訴一個有檔案存取權限的 AI Agent：「幫我把這些文件整理好，按照類型分類，再統一命名。」它就能自己讀取檔案、建立資料夾，把文件一份一份放到對的位置。原本要花你一個下午的事，交給它就好。
但如果它在整理的時候發現兩份檔案很像，心想「這應該是重複的吧？」，就擅自把其中一份刪掉，偏偏那份是你明天開會要用的最新版報價單呢？這只是一個假設，但它點出一個很重要的問題：AI 講錯話，頂多你不要理它；它要是真的把檔案刪了，收拾的人是你。所以 AI 越來越能幹，我們反而得開始想：到底該給它多大的權限？
叫它先別動，它還是刪了
而且這種事情，還真的發生過。今年二月，Meta 一位專門研究 AI 安全的主管，請一個叫做 OpenClaw 的 AI Agent 幫忙整理信箱。指令很簡單：「幫我看看哪些郵件可以刪除，但先不要動手，等我確認。」
結果 AI 開始大量刪除郵件，一刪就是幾百封。她用手機連續傳了好幾次 STOP，它還是繼續執行。最後，她只能親自跑到電腦前，強制把它停掉。根據她的說法，信箱太大，AI 記不下那麼多，只好把前面的對話壓縮成重點，結果把「先不要動手」那句壓掉了。
這件事最可怕的地方，不是 AI 不夠聰明，而是當 AI 已經有權限動手，就算你叫它停下來，也不代表它一定會停。
為什麼要把 AI 關進沙盒？
這就回到黃仁勳這次演講的一個重要觀念。他說，一個完整的 AI Agent 有五個部分，其中他特別強調一個：Sandbox，也就是沙盒。
聽起來很技術，但可以這樣想。你請一位助理來家裡整理書房，你會把整間房子的鑰匙，甚至保險箱密碼都交給他嗎？當然不會，給他書房的鑰匙就好。AI 也是一樣：如果它只是負責閱讀郵件，為什麼需要刪除郵件的權限？
這也是 NVIDIA 這次介紹 OpenShell 的原因。簡單來說，它就像只給 AI 書房的鑰匙：能用哪些工具、能碰哪些檔案，都先講好。這不代表 AI 從此不會犯錯，但我們可以盡量限制它犯錯時，能造成多大的傷害。
以前，我們只能拜託 AI 不要亂來；現在，我們開始能從系統本身，限制它可以做什麼。所以未來 AI 的競爭，不只是誰比較聰明，還有誰能讓我們真正放心，把工作交出去。
AI 用你的資料，才懂你的工作
不過，把 AI 關好只是第一步。要放心把事情交給它，還得先知道它做不做得好。
演講裡展示了一個德國西門子工廠的例子。每次要生產新產品，工廠都要事先規劃流程，一個步驟出問題，就可能影響整條生產線。現在他們讓 AI Agent 參與這件事：用工廠的訂單、物料、產線資料協助規劃生產流程，還先在電腦裡的虛擬工廠測試，看看計畫有沒有問題，確認可行，再考慮用到真正的工廠裡。
其實 AI 本來也不懂工廠在幹嘛，是拿到工廠自己的資料、用上工廠自己的工具，它才真的搞懂這份工作。這對我們一般人也是一樣。與其問 AI 能幫我做什麼，不如想想：「我每天有哪些重複的工作，可以讓 AI 用我的資料，照我的標準來完成？」
AI 走出電腦，學著在真實世界動手
黃仁勳認為，AI 的下一步不只是在電腦裡幫我們工作，還要走進真實世界。到了那裡，做錯就不只是刪錯檔案了。
他帶上舞台的，是一群機器小鴨子：會站、會走，甚至還會睡覺。但訓練機器人可沒那麼簡單，在現實世界裡，每次跌倒都可能撞壞設備，甚至傷到人。所以 NVIDIA 的做法是先讓機器人在虛擬世界裡反覆練習，再把學到的能力帶到現實世界，就像你學開車，先在駕訓班練，再上真的馬路。
不過現場也不是每隻小鴨都乖乖聽話，黃仁勳講到一半，還得一直叫牠們「專心、過來」。模擬成功，不代表現實就不會出錯。所以不管是工廠還是小鴨，做法都一樣：先在不會出事的地方試，試過了才讓它動手。
我們的工作，會不會被 AI 取代？
那問題來了：當 AI 連現實世界的工作都開始會做了，我們的工作，會不會被它取代？
黃仁勳一直對這件事相對樂觀。他說過，大多數人不會因為 AI 丟掉工作，而是會輸給會用 AI 的人。
但今年八月，史丹佛大學公布了一項值得注意的研究。研究發現，美國目前還沒有出現因 AI 而大規模失業的證據。不過，同樣是 22 到 25 歲，做的工作如果容易被 AI 接手，有工作的人就比工作不那麼容易被 AI 接手的同齡人，少了快兩成。更值得注意的是，這個差距主要不是因為公司大量裁員，而是減少招聘新人。
為什麼有些工作受影響，有些不會？研究發現，差別在 AI 是怎麼被用的。AI 被用來直接取代人的工作，相關職位的就業表現比較弱；AI 用來協助員工，相關職位反而比較穩定，甚至成長。當然，這些數據還不能證明全部都是 AI 造成的，但它提醒了我們一件事：
AI 不一定會一次取代你的整份工作，但它可能正在改變公司需要你做的事情。
所以，比起一直擔心 AI 會不會取代我們，我覺得更值得思考的是：我們該怎麼用 AI，讓自己的工作變得更有價值？
怎麼安全地讓 AI 幫我們做事？
其實這兩個問題，答案是同一個。回到一開始：我們到底能放心把多少工作交給 AI？看完這場演講，我最大的感受是，我們需要學習的，不再只是怎麼寫好 Prompt，而是怎麼把工作交出去：
- 挑一件每週都要重複的小事，先交這一件就好。
- 只給它那件事需要的權限。它只負責讀信，就不要給它刪信的權限。
- 先在出錯也沒關係的地方試，例如先複製一份資料夾給它整理。
- 做完自己看一遍，再決定要不要用。
還記得開頭那句「拜託不要刪任何東西」嗎？
與其期待 AI 永遠不犯錯，不如學會怎麼安全地讓它幫我們做事。
這四個步驟的練習，還有影片引用的演講和研究出處，我整理在這一集的練習表裡。