OpenAI公司宣布了一項新功能,據稱該功能將針對提示詞注入攻擊提供額外的保護,這種攻擊會將惡意聊天機器人指令隱藏在網頁和其他內容源中。其中,鎖定模式將禁用實時網頁瀏覽、從網頁檢索和顯示圖像、深度研究以及智能體模式。該公司表示,即使開啟鎖定模式,ChatGPT仍可能易受提示注入攻擊 —— 例如,這些攻擊可能「出現在緩存的網頁內容或上傳的文件中,並且仍可能影響回復的行為或準確性。」但其目標是減少在此過程中敏感數據被共享的可能性。該公司表示,目前正在向自服務的ChatGPT商業賬戶以及符合條件的個人賬戶推出鎖定模式。
—— Techcrunch