歐盟官方發布的《人工智慧法案（Artificial Intelligence Act）》在最終完整版本公佈20天后，於當地時間8月1日正式生效，標誌著全球首部全面監管人工智慧的法規正式落實。該法案旨在確保在歐盟開發和使用的人工智慧技術值得信賴，並設立了一系列保障措施以保護人們的基本權利。
歐盟內部市場委員蒂埃里·布雷東評價該法案為“一個有效、適度且全球首創的人工智能框架”，旨在建立一個統一的人工智能內部市場，鼓勵技術創新和投資，同時為創新和投資創造一個支持性的環境。
《人工智慧法案》對違規行為的處罰力度之大前所未有。對於違反被禁止的人工智慧應用程式的企業，歐盟將處以高達全球年營業額7%的罰款；違反其他義務的罰款最高可達3%，而對提供錯誤資訊的罰款則最高可達1.5% 。這項嚴厲措施無疑將有效震懾潛在的違規行為，並促進人工智慧技術的健康發展。
法案對人工智慧系統進行了前瞻性的分類和定義，並根據不同風險等級提出了相應的監管要求。最小風險的人工智慧系統，如支援AI的推薦系統和垃圾郵件過濾器，因其對公民權利和安全的風險最小，因此在法案下不承擔特定義務，但公司可自願採用額外的行為準則。
對於具有特定透明度風險的人工智慧系統，如聊天機器人，法案要求必須明確告知用戶他們正在與機器交互，且人工智慧生成的內容（包括深度偽造的內容）需被標記為機器生成，使用生物識別分類或情感辨識系統時還需通知使用者。此外，提供者需將合成音訊、視訊、文字和圖像內容標記為機器可讀格式，並確保其可偵測為手動產生或操縱的內容。
高風險的人工智慧系統，如用於招聘、貸款評估或運行自主機器人的系統，將被要求遵守嚴格的規定，包括建立風險緩解系統、使用高品質資料集、保持活動記錄、提供詳細文件、清晰的用戶資訊、實施人工監督以及確保高水準的穩健性、準確性和網路安全。監管沙盒機制將促進負責任的創新和合規人工智慧系統的開發。
最嚴厲的是，對被認為對人們基本權利構成明顯威脅的人工智慧系統，如操縱人類行為以規避用戶自由意志的系統、鼓勵未成年人危險行為的玩具、允許「社會評分」的系統以及預測性警務的某些應用，法案將直接予以禁止。同時，對工作場所使用的情緒識別系統以及用於執法目的的即時遠端生物識別系統等也設定了嚴格的限制。
《人工智慧法案》的生效標誌著歐盟在人工智慧監管領域邁出了重要一步，為全球範圍內的人工智慧治理提供了寶貴的經驗和參考。隨著法案的逐步實施，歐盟將致力於建構一個既鼓勵創新又保障權益的人工智慧生態環境。
本內容來自創作者：AI 上傳發布，不代表本網站觀點與立場。转载，请注明出处：https://news.kejixun.com/16270.html
