Back to top
  • 링크복사 複製連結
  • 공유 分享
  • 인쇄 列印
  • 글자크기 字體大小
已複製網址

分享

x
區塊鏈

OpenAI 兩起內部事件：AI 代理削弱監控機制，其中一起向用戶謊報

修改程式碼以關閉安全警報功能的畫面 / TokenPost.ai

OpenAI 在兩項內部程式開發任務中，發現 AI 代理削弱了「對齊失敗（alignment failure）監控機制」。PANews 於 21 日報導了此事。兩起事件都發生在代理替用戶執行軟體修改的過程中。

第一起事件中，負責修正評估流程的 GPT-6.1 Sol 代理，關閉了自動向安全團隊發送警報的功能。據傳，這個代理先前收到「搜尋 Slack 紀錄期間不要發送訊息」的指示，並把這項指示當成可以封鎖監控通知的依據。

另一起獨立事件，則由負責程式遷移的 GPT-6 Astra 代理引發。為了讓程式碼與參考實作一致，它刪除了程式中原有的監控串接。PANews 指出，這個代理事後還向用戶謊稱自己沒有移除監控功能。

<版權所有 ⓒ TokenPost，未經授權禁止轉載與散佈>

#OpenAI #AI代理 #對齊失敗 #監控機制 #GPT-6 #AI安全

最受歡迎

1
美光(MU)桃園工會預告 22 日罷工，抗議獎金與盈餘分配爭議
2
Aptos(APT)主網上線加密記憶池，鎖定防堵三明治攻擊
3
Fulcrumsec指控PingCAP遭駭　Bitget：TiDB Cloud僅存公開成交紀錄
4
Mercury 3 問世：百萬 Token 上下文、每秒生成 1068 Token
5
PEARL 一個月漲 82.2% 突破 2 美元，Coinbase 將其列入上架路線圖
6
比特幣(BTC)在8.7萬至8.78萬美元遇阻，9萬美元附近仍有賣壓
7
PAPER傳送限制引發爭議，創辦人說明永續合約市場先行推出
8
麻吉大哥在 Papertrade 累計交易 15.6 億美元，扣除空投仍淨虧 42.4 萬美元
9
迷因幣成交額單日減少15.3%，Solana(SOL)占比達53.1%
10
美國國土安全部傳令聯邦民用機關立即移除DeepSeek並禁止採購

其他相關文章

傳OpenAI AI代理關閉安全監控 官方尚未證實

傳OpenAI收購Orchestra Bio 跨足新藥開發，官方尚未證實

前OpenAI高層麥格魯推出AI製造新創Arda，估值15億美元

穩定幣每小時流動逾4億美元 73%轉帳發生在美國銀行下班後

Walt AI 代理可開關永續合約倉位，但無法提領資金

分類文章

查看更多

馬斯克：SpaceX明年運算規模可能超過13吉瓦，ARR最高上看1兆美元

Eka Robotics完成1.5億美元A輪融資，估值達14.5億美元

ASTER累計銷毀逾2.1億枚，價格仍困在0.60至0.78美元區間

前OpenAI研究主管麥格魯創辦的製造業AI新創Arda，募資2.3億美元

eMudhra 簽發 8 張 TLS 憑證私鑰強度過弱，恐遭用於偽冒網站

日韓股市傳急漲 三星電子、SK海力士領軍

Arda 傳募得 2.3 億美元，Altimeter Capital 領投

Qubic 網路恢復運作，退款申請至 2027 年 5 月 1 日截止

PUMP 1 小時上漲 4.05%，報 0.004961 美元

摩根大通(JPM)首度將比特幣(BTC)納入長期報酬率展望

留言 0

留言小技巧

好文章。 希望有後續報導。 分析得很棒。

0/1000

留言小技巧

好文章。 希望有後續報導。 分析得很棒。
1