6 月 5 日消息，OpenAI 和Google DeepMind 的數名前任和現任員工近日聯名發佈公開信，對高級人工智慧的潛在風險以及當前缺乏對人工智慧科技公司的監管表示擔憂。
注意到，這封公開信指出，人工智慧的發展可能會帶來一系列的風險，例如加劇現有社會的不平等、助長操控和虛假資訊傳播，以及失控的自主人工智慧系統可能導致人類滅絕等。
信中寫道，人工智慧公司擁有強大的經濟利益驅動它們繼續推動人工智慧研發，同時卻對保護措施和風險程度的資訊諱莫如深。公開信認為，不能指望這些公司會自願分享這些訊息，因此呼籲內部人士站出來發聲。
由於缺乏有效的政府監管，這些現任和前任員工成為能夠讓這些公司對公眾負責的少數群體之一。然而，由於嚴格的保密協議，員工被限制發聲，只能向可能未妥善處理這些問題的公司反映問題。傳統的舉報人保護措施並不適用，因為此類措施側重於違法行為，而目前令人擔憂的許多風險尚不受監管。
員工呼籲人工智慧公司為揭露人工智慧風險的人士提供可靠的舉報人保護措施，具體包括：
不得創建或執行阻止員工對風險相關問題提出批評的協議；
提供可驗證的匿名程序，使員工能夠向董事會、監管機構和相關領域的獨立組織提出與風險相關的擔憂；
支持開放批評的文化，允許員工在保護商業機密的前提下，向公眾、董事會、監管機構等方面提出與技術相關的風險擔憂；
在其他程序失效後，避免對公開分享風險相關機密資訊的員工進行報復。
共有 13 名員工簽署了這封公開信，其中包括 7 名前 OpenAI 員工、4 名現任 OpenAI 員工、1 名前Google DeepMind 員工和 1 名現任Google DeepMind 員工。據悉，OpenAI 曾因員工發聲而威脅取消其既得權益，並要求員工簽署嚴格的保密協議限制他們批評公司。
本文取自媒體，由：Google 上傳發布，不代表kejixun.com立場。转载，请注明出处：https://news.kejixun.com/5759.html
