今日，人工智慧領域的創新企業DeepSeek宣布正式推出NSA（Native Sparse Attention）機制。此機制專為超快速長上下文訓練與推理而設計，旨在透過硬體對齊和原生可訓練的稀疏注意力機制，為用戶帶來前所未有的體驗。
NSA的核心元件包括動態分層稀疏策略、粗粒度token壓縮以及細粒度token選擇。這些組件共同合作，使得NSA能夠在優化現代硬體設計的同時，實現推理加速和預訓練成本的降低，而且這一切都是在不犧牲性能的前提下完成的。
DeepSeek官方表示，NSA機制在通用基準、長上下文任務和基於指令的推理上，其表現與全注意力模型相當甚至更加優秀。這意味著，使用者在享受更快推理速度和更低成本的同時，也能獲得與頂尖模型相媲美的效能表現。
本內容來自創作者：AI 上傳發布，不代表本網站觀點與立場。转载，请注明出处：https://news.kejixun.com/33284.html
Character.AI，作為一款可客製化的AI聊天工具，近年來備受矚目。它不僅能讓你與虛擬角色進行深度對話，還能幫助你創造自己心儀的角色，與之互動。對於初次接觸Character…
近日，OpenAI 推出了 ChatGPT新功能“Connect Apps”，該功能允許企業用戶在聊天時直接存取和選擇儲存在微軟 OneDrive 和Google Drive 雲端…
近日，知名人工智慧研究機構曝光了一項關於PC版ChatGPT客戶端的嚴重安全漏洞，該漏洞涉及ChatGPT新推出的「記憶」功能，使得駭客有機會透過惡意手段竊取用戶的對話記錄。這項發…
在人工智慧（AI）技術成為現代科技的核心驅動力之際，蘋果公司（Apple Inc.）正在進行一場戰略轉型，從原本的電動車開發計畫轉向深入探索AI的無限可能。這一轉變不僅反映了蘋果對…
據報道，AI研究公司OpenAI正加速其資金籌集步伐，根據彭博社最新報道，該公司正與投資者積極洽談，計劃以高達1500億美元（約合1.07萬億元人民幣）的估值籌集65億美元（約46…
谷歌近日正式發布了其新一代大語言模型Gemma 2，這款模型憑藉其卓越的性能和高效的推理能力，迅速在AI領域引起了廣泛關注。 Gemma 2推出了90億參數（9B）和270億參數（…
在今日舉行的Pixel 9系列手機發表會上，Google正式推出了Gemini Live服務，該服務將首先面向使用英語的Gemini Advanced訂閱用戶開放，為用戶帶來前所未…
今日，輝達宣布其DeepSeek-R1模型現已在build.nvidia.com平臺上以NVIDIA NIM微服務預覽版的形式提供。這一消息標誌著輝達在AI服務部署方面邁出了重要一…
近日，馬斯克旗下的社交平臺X宣布推出了一項基于Grok的全新功能——“Stories on X”，旨在通過人工智能技術為用戶快速生成新聞和熱門話題的摘要，幫助用戶迅速概覽近期頭條內…
近日，全球領先的圖形處理器（GPU）製造商輝達（Nvidia）宣布，其地表最強AI晶片GB200已進入量產階段，預計今年第三季大規模放量。這項消息引發了業界廣泛關注，特別是台灣地區…
5 月31 日消息，OpenAI 在5 月30 日宣布推出ChatGPT Edu，該版本專為大學設計，面向學生、教職員工、研究人員和校園運營部署AI，同時該版本的對話和數據不會用於訓練OpenAI 模型。
在人工智慧領域，視訊生成技術一直是研究的熱點。 近日，Google 2024 I/O開發者大會上宣布推出一款名為Veo的新型視訊生成模型，劍指OpenAI三個月前推出的Sora，展…
在人工智慧領域，開源與閉源模型的競爭一直備受關注。近期，Meta 開源的Llama 3.1-405B 模型在多個關鍵AI 基準測試中展現出了驚人的性能，甚至在部分測試中超越了當前的…
在數字創意領域的一次重大突破中，OpenAI的Sora技術成功助力知名編劇兼導演Paul Trillo實現了他十年前未能完成的MV制作夢想。近日，Trillo發布了首支完全利用Op…
今日，人工智能領域的巨頭OpenAI宣布了一個重大更新：在其大模型產品ChatGPT中新增了搜索功能。這一舉措標誌著OpenAI正式進軍由Alphabet旗下Google長期主導的…
在人工智慧領域，規模不再是衡量模型效能的唯一標準。隨著xLAM-1B這一「Tiny Giant」的橫空出世，其以僅10億參數的規模，在特定任務中擊敗了擁有龐大規模的GPT-3.5 …
近日，馬斯克在推特平台上宣布，其人工智慧新創公司xAI即將在8月推出全新大語言模式——Grok-2。這一消息立即引發了業界的廣泛關注。 馬斯克在回應部落客的貼文時表示，目前的大語言…
近日消息，快手視頻生成大模型“可靈”正式推出圖生視頻功能，支持將任意靜態圖像轉化為視頻，搭配創作者輸入的不同文本，可生成多種多樣的運動效果。
根據X平台消息人士@momomo_us今日透露，AMD計畫再次更新其AM4插槽相容處理器系列，此舉將進一步延長這項已發布8年的平台的服役時間。 AMD此次推出的新產品包括兩款6核心…
在科技日新月異的今天，作業系統作為連結硬體與軟體的橋樑，其每一次更新都牽動著全球億萬用戶的心。特別是對於安卓（Android）這全球最受歡迎的行動作業系統而言，其新版本的發布更是科…
