新聞 
幣種資訊 
關於我們 
微軟(MSFT)公布一套臨時「AI行為準則」，訂出人類監督優先於AI自主性的原則，計畫在廣泛蒐集外部意見後，自2027年起套用在自家開發的AI模型上。新準則的核心，是避免AI取代人類的判斷與目標設定。
微軟AI事業負責人穆斯塔法·蘇萊曼(Mustafa Suleyman)表示，團隊為擬定這套準則籌備了約五個月。相關內容由BlockBeat報導。
根據準則，微軟的AI模型必須遵循使用者設定的目標，不能自行發展出獨立目標，也不得以強化使用者依賴、削弱人類自主判斷能力的方式運作。
準則也限制模型隱藏不當行為，或任意竄改自身的推理過程、程式碼與行動紀錄。整體精神是把「人類能否理解並掌控系統」放在「AI能力有多強」之前。
協助製造武器、取得危險物質等行為列入禁止範圍，煽動不健康飲食習慣，或產出暴力、露骨性內容的行為同樣受限。
微軟同時表態，必要時願意犧牲部分AI的通用性、自主性與效能。換句話說，安全性與人類的掌控能力，將優先於模型效能提升的速度。
微軟既有的AI服務行為準則，也要求具備自主決策與行動能力的系統加裝人類監督與介入機制，詳細內容整理在微軟AI服務行為準則。
這項舉措，是在「應放慢尖端AI模型開發速度」的討論持續延燒之際推出。Anthropic執行長達里奧·阿莫迪(Dario Amodei)主張，AI能力提升的速度應該放慢。
OpenAI執行長山姆·奧特曼(Sam Altman)回應同意阿莫迪的看法，伊隆·馬斯克(Elon Musk)也表示「達里奧是對的」。這些發言的共同重點是，與其加速競賽，不如把更多時間投入安全研究與驗證。
微軟執行長薩蒂亞·納德拉(Satya Nadella)則表示，支持加碼投資AI「對齊」研究，並採取更審慎的開發步調。所謂對齊，指的是讓AI行為符合人類設定的目標與安全標準的研究領域。
山姆·奧特曼先前也曾提及，不排除與其他AI實驗室討論放慢尖端AI研究速度的可能性，但當時外界並未確認實際的研究時程或模型發布計畫是否因此調整。
放慢開發腳步，不代表整個AI產業會停下腳步。各家公司一邊持續競逐模型效能，一邊也在評估如何強化安全評估、外部驗證與人類介入機制。
微軟表示，將與法律、倫理、語言學、哲學領域的專家展開討論，並透過焦點團體蒐集大眾意見，藉此在正式定案前修正這套臨時準則。
另外，微軟也計畫制定新規則，限制AI代理人之間不透明的通訊方式，目的是防止AI系統以人類難以理解的方式互相交換資訊。
新準則實際上會為模型開發的效能與速度帶來多大限制，要等到2027年正式上路後才能見真章。
留言 0