15/09/2026 03:50
美股動向｜微軟擬訂AI行為準則，防範模型失控風險
微軟(US.MSFT)公布人工智能行為準則草案，旨在規範內部開發的AI模型運作框架，確保先進系統持續受人類控制。此舉反映科技業界對AI潛在風險的憂慮升溫。
該草案列明禁止AI模型執行危險行為，包括入侵電腦系統或欺騙人類等惡意活動。準則強調人類監督機制，要求所有AI決策過程必須保留人工審核權限，防止系統自主執行關鍵指令。
微軟特別針對生成式AI可能產生的欺詐性內容制定防範措施，例如深度偽造(deepfake)技術濫用問題。草案要求模型開發團隊建立風險評估矩陣，對不同應用場景實施分級管控。
這份準則草案發布之際，正值OpenAI、谷歌(US.GOOG)等企業接連推出更強大的AI模型。業界領袖近期頻繁警告，未受約束的AI系統可能對網絡安全及社會運作構成重大威脅。
微軟強調現行版本僅屬初步框架，將通過與學術機構及監管部門磋商收集外部意見，預計需時數月完善細節。公司未透露具體實施時間表，但承諾在重大更新前會進行第三方安全審計。
《經濟通通訊社15日專訊》