近日，全球知名的人工智慧公司OpenAI和Anthropic宣布了一項重要舉措，與美國人工智慧安全研究所（US AI Safety Institute）簽署諒解備忘錄，承諾在發布重大新的人工智慧模型前，將允許美國政府提前存取並評估這些模型的安全性。這項合作被視為推動AI技術安全發展的重要里程碑。
根據協議內容，兩家公司在其AI模型公開發布之前及之後，都將向美國政府開放存取權限，以便共同識別並緩解潛在的安全風險。美國政府表示，這項合作將有助於增強對AI技術的理解和監管，確保AI技術的安全可控發展。
OpenAI首席策略長Jason Kwon對此合作表示高度支持，他強調：「我們非常支持美國AI安全研究所的使命，並期待透過合作，共同製定AI模型的安全最佳實踐和標準。我們相信，這一合作將在確保美國在負責任開發AI方面的領導地位上發揮關鍵作用。
Anthropic公司也對此次合作寄予厚望。公司聯合創辦人兼政策負責人Jack Clark表示：「確保AI安全可靠對於發揮該技術的正面影響至關重要。透過這種測試和合作方式，我們能夠更好地發現和減少AI的風險，推動負責任的AI發展。
值得注意的是，這項合作正值全球對AI監管政策討論的熱門時期。在聯邦和州立法機構紛紛探討如何平衡AI技術創新與安全監管之際，OpenAI和Anthropic的舉措無疑為業界樹立了典範。週三，加州立法者通過了《前沿人工智慧模型安全創新法案》（SB 1047），要求該州的人工智慧公司在訓練先進基礎模型前採取特定安全措施。儘管該法案已進行修改並等待州長簽署，但仍引發了業界的廣泛關注和討論。
美國白宮也一直在積極尋求從主要AI公司獲得關於安全措施的自願承諾。多家領先的AI公司已作出非約束性承諾，投資於網路安全和歧視研究，並致力於對AI生成內容進行水印標記等安全措施。
美國人工智慧安全研究所所長伊麗莎白凱利在聲明中強調：「這些新的協議只是開始，但它們是我們努力幫助負責任地管理AI未來的一個重要里程碑。」她表示，未來將繼續推動AI技術的安全發展，確保AI技術能造福人類社會。
這次OpenAI與Anthropic與美國政府的合作，無疑為AI技術的安全發展注入了新的動力。隨著AI技術的不斷進步和應用領域的不斷拓展，如何確保AI技術的安全性和可信度將成為全球關注的焦點。透過加強合作與監管，我們有理由相信AI技術將在未來發揮更積極的作用，推動人類社會的進步和發展。
本內容來自創作者：AI 上傳發布，不代表本網站觀點與立場。转载，请注明出处：https://news.kejixun.com/21080.html
