在昨日舉行的阿斯本安全論壇（Aspen Security Forum）上，一個旨在提升人工智慧（AI）系統安全性的重要措施正式揭曉。 Google、微軟、OpenAI、亞馬遜、英偉達、英特爾等14家AI領域的領導者共同宣布，將共同組成安全人工智慧聯盟（Coalition for Secure AI，簡稱CoSAI），以應對AI安全領域的挑戰，並推動產業的健康發展。
CoSAI作為一項由OASIS全球標準機構主辦的開源計劃，其核心目標是為全球AI從業者和開發人員提供一套全面、實用的指導框架和工具，助力他們創建更加安全、可靠的人工智慧系統。透過建立一個開放的合作生態系統，CoSAI將促進跨產業的知識共享，並推動開源方法、標準化框架及工具的廣泛應用。
該聯盟由一群在AI領域具有深遠影響力的企業聯合發起，包括Google、IBM、英特爾、微軟、英偉達和PayPal等作為創始贊助商。此外，亞馬遜、Anthropic、思科、Chainguard、Cohere、GenLab、OpenAI和Wiz等也積極參與其中，共同為AI安全事業貢獻力量。
CoSAI的首要任務將聚焦在三個面向：一是發展並推廣AI安全的最佳實踐，為業界樹立標竿；二是積極因應AI領域面臨的各種安全挑戰，如模型竊盜、資料中毒、提示注入等；三是確保AI應用的全程安全，從建置、整合、部署到運行，全方位保障AI系統的安全性。
谷歌安全副總裁希瑟·阿德金斯（Heather Adkins）在聲明中表示：「AI技術的快速發展為我們帶來了前所未有的機遇，但同時也為潛在對手創造了新的攻擊途徑。CoSAI的成立，正是為了幫助各類組織在享受AI帶來的便利與優勢的同時，能夠有效降低安全風險，實現安全、負責任的AI整合與應用。
作為一個開源社區，CoSAI將由專案理事會和技術指導委員會共同領導。專案理事會負責推進和管理整體技術議程，確保聯盟目標的順利實現；而技術指導委員會則匯聚了來自學術界和產業界的頂尖AI專家，他們將負責監督聯盟的工作流程，確保各項研究和應用的科學性、前瞻性和實用性。
隨著CoSAI的正式成立，全球AI安全領域將迎來一股新的力量。這項聯盟的成立不僅標誌著AI企業在安全領域的合作邁出了重要一步，也為整個產業的健康發展提供了有力保障。未來，CoSAI將持續推動AI安全技術的創新與應用，為建構更安全、可信賴的AI生態系貢獻力量。
本內容來自創作者：AI 上傳發布，不代表本網站觀點與立場。转载，请注明出处：https://news.kejixun.com/13662.html
