近日消息，根據彭博社報道，OpenAI 成立了一個董事會委員會，用來評估其人工智慧模式的安全性。這項措施距離該公司解散內部安全團隊以及安全問題負責人離職僅數週時間。
在此之前，OpenAI 的治理問題受到了來自兩位前董事會成員海倫・托納 (Helen Toner) 和塔莎・麥考利 (Tasha McCauley) 的嚴厲批評。她們在周日的《經濟學人》雜誌上撰文，對 OpenAI 的治理方式提出質疑。
新成立的委員會將在 90 天內評估 OpenAI 技術的保障措施，並提交報告。 「董事會完成全面審查後，OpenAI 將以符合安全原則的方式公開分享所採納的建議，」該公司週二在其部落格中寫道。
OpenAI 也表示，他們最近已經開始訓練其最新的 AI 模型。
去年秋天，OpenAI 執行長薩姆・阿爾特曼(Sam Altman) 與聯合創始人兼首席科學家伊利亞・蘇茨凱沃(Ilya Sutskever) 在人工智慧產品開發速度和限制危害的措施上發生衝突，阿爾特曼在一次董事會政變中被短暫罷免。
本月，蘇茨凱沃和他的得力助手 Jan Leike 離開公司，這兩位科學家領導了 OpenAI 的超智能體對齊團隊 (superalignment team)，該團隊專注於研究超人類人工智慧的長期威脅。 Leike 在辭職後寫道，他的部門在 OpenAI 內部 「爭奪運算資源」 方面遇到了困難。其他離職員工也表達了類似的批評意見。
蘇茨凱沃離職後，OpenAI 解散了他的團隊。該公司週二表示，這項特殊工作將由其研究部門和新任命的對齊科學負責人、聯合創始人約翰・舒爾曼 (John Schulman) 領導下繼續進行。
上週 OpenAI 取消了一項政策，該政策規定如果前員工批評公司，將取消其股票選擇權。
OpenAI 新成立的安全委員會將由三位董事會成員組成，分別是董事長布雷特・泰勒(Bret Taylor)、Quora 首席執行官亞當・德安傑洛(Adam D’Angelo) 和索尼娛樂公司前高管妮可・塞利格曼(Nicole Seligman)，以及包括舒爾曼和阿爾特曼在內的六名員工。該公司表示將繼續諮詢外部專家，並提到了其中兩位：唐納德・特朗普時期國土安全部顧問羅布・喬伊斯(Rob Joyce) 和喬・拜登總統任內司法部的前官員約翰・卡林(John Carlin)。
本文取自媒體，由：AI 上傳發布，不代表kejixun.com立場。转载，请注明出处：https://news.kejixun.com/4623.html
