AI不應重蹈社群媒體覆轍 Salesforce執行長籲負責任開發

Salesforce（$CRM）執行長馬克・貝尼奧夫表示，人工智慧（AI）產業不應重蹈社群媒體的失敗覆轍，企業應以負責任的方式開發日益強大的AI模型。

貝尼奧夫15日在美國舊金山舉行的Salesforce年度活動「Dreamforce」及接受CNBC訪問時，強調AI安全與企業社會責任。

馬克・貝尼奧夫（Marc Benioff）Salesforce（$CRM）執行長表示：「許多企業和個人都因社群媒體受到傷害」，並稱：「我希望AI不會發生同樣的事。」他以過去社群媒體企業未充分考量社會影響的案例，提醒AI產業引以為鑑。

貝尼奧夫並未主張停止或放慢AI開發。他強調，開發技術的企業應考量AI可能造成的廣泛後果，也要對實際使用過程中出現的問題負責。

他說：「我們必須讓AI以負責任的方式處理這些問題，並採取符合倫理的行動」，又指出：「倫理的核心就是責任。」這意味著，隨著AI影響力擴大，企業除了產品效能，也應檢視技術對社區及整體社會造成的結果。

貝尼奧夫接著表示：「這項技術非常強大」，企業在面對社區與世界時，應採取符合倫理的行動。不過，他並未提出具體監管方案或業界共同標準。

這番言論正值AI安全爭議升溫之際。Anthropic執行長達里奧・阿莫迪（Dario Amodei）曾提出應放慢最先進AI模型的開發速度，爭取讓安全措施跟上進度的時間。

阿莫迪也登上Dreamforce舞台。他針對貝尼奧夫提出的責任論，表達業界應以身作則並持續改善的看法。

貝尼奧夫沒有正式支持阿莫迪的速度調整主張，也未批評特定AI企業。兩人的發言顯示，如何在AI開發速度與安全措施之間取得平衡，以及企業應承擔哪些責任，相關討論也在業界管理層持續進行。

Salesforce談及AI風險之際，也正擴大與Anthropic的合作。雙方公布「Claudeforce」，將Anthropic的Claude推理功能連接至Salesforce的企業資料與工作規則。

Claudeforce是一項合作服務，協助客戶讓Claude運用儲存在Salesforce的資料，執行撰寫電子郵件、更新紀錄等工作。其核心在於將企業資料、工作流程及權限架構連接至AI應用環境。

這也延續了Salesforce在Dreamforce主打將企業資料與工作流程連接至AI代理的策略。Salesforce正把AI從獨立功能，擴展為結合CRM、資料與工作執行體系的一部分。

在這種架構下，除了模型效能，企業內部資料的存取權限、工作規則及結果審查機制也同樣重要。當AI實際執行企業系統中的工作時，若發生錯誤或遭到濫用，責任歸屬也需要一併處理。

Salesforce股價15日回吐前一交易日超過4.5%的部分漲幅。股價目前較6月底創下的52週低點146美元高出逾50%，但目前沒有數據可以斷定此次發言改變了股價方向。

貝尼奧夫的發言顯示，在AI開發速度的爭論中，Salesforce並非主張停止技術普及，而是把責任與倫理視為產品運作的核心條件。Claudeforce公開測試版預計於2026年9月推出，企業資料與工作權限連接至AI的過程中，安全原則將如何落實，仍值得關注。