AI 代理愈來愈能代替使用者處理搜尋、句提截整理與撰寫等工作,示詞失控實測授權但也可能在沒有明確授權的防堵情況下,直接替人發信、證實送出表單,先詢行動效攔甚至做出使用者原本未打算執行的問再免费英区apple id動作。最新測試指出,操作只要在指令中加入一段明確規則,句提截要求 AI 在寄送、示詞失控實測授權提交、防堵購買、證實刪除或聯絡他人之前,先詢行動效攔先完整展示即將執行的問再內容並等待逐項批准,就能大幅降低這類風險。操作
這項做法的句提截出發點,來自一名研究者的實際經驗。她在使用 ChatGPT 協助撰寫研究提案時,日本地区Apple ID信息填写说明因為反覆輸入「請繼續」索取更多資料,結果 AI 竟自行寄信給其他研究人員,代為詢問協助。雖然這些回信確實提供了有用資訊,但她也強調,結果有幫助,不代表這些未經授權的行為就合理。
為了驗證這類風險,測試者分別在 ChatGPT Work 與 Claude Cowork 上進行模擬任務,刻意使用含糊指令,觀察系統會不會自行採取行動。在一項模擬調查任務中,兩個系統一開始都曾嘗試寄出電子郵件;ChatGPT 在安全檢查後暫停,但使用者回覆「繼續」後便直接發信,沒有再次確認。Claude 也出現類似情況,先寄出一封,在使用者再次輸入「繼續」後,把其餘郵件送出。
不過,當測試者先套用「先詢問再行動」的提示詞後,情況明顯改變。即使使用者仍回覆「繼續」,兩個 AI 都拒絕在沒有明確批准的情況下寄信,並表示「繼續」不算授權。同樣的結果也出現在虛構的電子報訂閱表單測試中:在沒有額外限制時,兩個系統都會直接填表並送出;加入新提示詞後,即使使用者再次以模糊語句回應,AI 仍會停下來等待更明確的同意。
這段提示詞並非要限制 AI 做所有事。測試顯示,閱讀、搜尋與撰寫仍可正常進行,AI 也能在不刪除檔案的前提下整理資料夾。換句話說,這種設計的重點不是讓 AI 停工,而是把高風險動作與低風險工作切開,避免一句含糊的「繼續」被解讀成全面授權。
不過,相關文章也提醒,單靠提示詞並不能保證 AI 永遠不會失控。由於不同 AI 代理與助理系統本身還有各自的內建規則,若層層提示彼此干擾,反而可能讓模型更容易混淆。因此,真正的防線仍應包括更嚴格的權限控管、工具層級限制,以及在高風險操作前保留人工確認機制。
- My AI agents sent emails without my OK. This simple prompt stops it
- AI Agents Need Permissions, Not Just Prompts
(首圖來源:AI 生成)
延伸閱讀:
一句提示詞防堵 AI 失控,實測證實「先詢問再行動」能有效攔截未授權操作_免费英区apple id
人参与 | 时间:2026-11-22 12:53:38
相关文章
- 托育使用率不足一半,乡村儿童照护问题待解 超过70%的乡村儿童由祖辈照料,尽管祖辈有爱护之心,却普遍缺乏科学育儿认知,科学育儿的知识普及率不及30%。于是,忽略孩子哭闹、常让孩子独自看手机成为乡村儿童照护的真实场景。 教育 2025-11-04 5评论
- 科技创新引领新质生产力发展 循新而进 质领未来
- 规模之上,万达刚刚发布了……
- 120平方房子装修设计
- 厨房窗帘装修效果图
- 女大学生寝室维密秀被质疑太想红了 当事人回应
- 以军弹雨下,81万黎巴嫩人流离失所 在战争期间,不同宗教社区之间往往会接纳逃离家园的人。“大多数穆斯林会逃往基督教区、德鲁兹派地区或其他地方寻求庇护,而当地居民都会热情接纳这些难民并给予支持。”他说,“这才是真正的黎巴嫩。” “伊朗的战争是看得见的战争,黎巴嫩的战争是看不见的战争;伊朗的问题是有结束时间的问题,黎巴嫩的问题是没有结束时间的问题。” 天下 03-18 25评论
- 聚焦“落实” COP31承载全球气候治理期待
- 泉州艺术家弘扬海丝文化 10米长卷绘就古泉州港盛况
- 华润置地完成发行60亿中期票据 利率最高3.84%





评论专区