毫無疑問,近幾年熱度持續不退的科技關鍵字就是「AI 人工智慧」,尤其是生成式 AI 已然落地成為實務應用的重要一環,除了各類型應用改變每個人生活與工作的方式,更進一步成為驅動企業創新的重要驅動力。但對於企業來說,導入 AI 雖然是大勢所驅,但相對也會遭遇到不少難題-「機敏資料保護與主控權」、「資安與政策合規風險」以及「長期持有成本控制」等問題,都有待企業一一克服。
正因為上述問題難以解決,讓企業將 AI 應用從過往的「雲端」轉向「本地端」,透過自建 Edge AI 伺服器的方式,達到資料保護、流程合規與持有成本可控的目的。而市場上也有不少廠商敏銳地洞察到這一塊市場的潛力,擁有強大儲存與網通解決方案的 QNAP 威聯通科技正是其中之一。

過去多年,QNAP 就持續以 NAS 為基礎平台,為使用者打造便利使用的 VM 與應用容器環境,AI 相關應用自然也是其中之一,並已經擁有完善的軟硬體整合。近期 QNAP 更是全新推出首款專為企業 AI 應用量身打造的 QAI-h1290FX Edge AI 伺服器,除了提供性能足夠強大、兼顧安全性的私有 AI 平台,全方位的軟體整合方案更能做到「開箱即用」,讓企業進入 Edge AI 領域的成本更低、更高效率!
企業 AI Edge 伺服器應用趨勢:為何「地端部署」是必然?
過去幾年,市場上的主流 AI 服務因為算力需求與商業模式的關係,皆採用雲端方式提供服務,而這樣的方式對於一般使用者來說不會有太大的問題,但對相對重視資料隱私、長期持有成本的企業來說,雲端 AI 的使用就有不少侷限性。

根據 QNAP 產品經理 Oliver 的觀察指出,目前市場對於 Edge AI 的需求,主要來自於「追求更理想的即時運算效能」、「符合資料隱私保護」與「雲網分離架構趨勢」這三個層面。
若是進一步分析企業用戶更青睞於本地端 AI 方案的原因,可以整理出下面四個關鍵優勢:
1.一次性建置成本,擺脫無底洞的雲端租金:公有雲服務長期訂閱費用高昂且難以預測,而地端設備屬於一次性資本支出,長期來看更能有效控制總體擁有成本(TCO)。
2.資料隱私安全,機密不出內網:對於金融、醫療、研發等敏感產業,將數據保留在本地是剛性需求。地端部署確保了核心資料完全隔離於網際網路之外,從根本上杜絕外洩風險。
3.運算效率高,超低延遲體驗:本地運算無需經過網路傳輸,能提供更穩定、即時的推論反應,特別適合需要快速決策的應用場景。
4.企業自主性高,完全掌控模型與資料:企業擁有完整的硬體與數據控制權,不被單一雲端供應商綁定(Vendor Lock-in),可自由切換開源模型或調整架構。
對於企業來說,雖然 Edge AI 能解決諸多問題,但仍需要投入一定的資源才能實現,尤其是硬體建置與相關軟體應用的整合能力仍有不小的門檻,對於中小規模企業、或是本業為軟體開發為主的公司是一大挑戰。
以儲存、網通技術為基礎,QNAP 積極打造高效易用的 AI 環境
許多消費者認識 QNAP,多半是在網路附加儲存(NAS)或是各類型的網通解決方案域,也因為多年在企業級儲存硬體、軟體整合擁有深厚積累,讓 QNAP 很早就開始佈局 AI 技術的整合。不同於一般 Edge AI 伺服器廠商僅提供硬體層面的服務,QNAP 更著重於打造「AI-Ready」的完整就緖平台。

目前 QNAP 在專業 NAS 產品領域,已經擁有效能和穩定性更為可靠的 QuTS hero 作系統,不僅整合了 ZFS 檔案系統的高效能與安全性,硬體層面也提供更具彈性的硬體擴充能力,包括高效能 GPU 的整合升級,讓 NAS 也能成為具備強大算力的 AI 運行平台。
此外,QNAP 的團隊也深知企業 IT 在人力、技術上的資源不足,沒有專職 AI 技術的工程師,不見得能架設完善的 Docker 環境,因此力求將 AI 部署流程進一步簡化,像是讓使用者可以透過 App Center 與 Container Station 快速取得相關的應用工具、容器模板,大大降低本地端 AI 建置的門檻;同時 QNAP 也擁有全球通路與專業技術,讓企業透過 NAS 也能快速導入 AI 應用。
QAI-h1290FX:規格到位,能輕鬆部署的 Edge AI 伺服器
QNAP 全新推出的 QAI-h1290FX,是首款訴求企業地端 AI 應用的 Edge AI 伺服器,也是專為高負載 AI 運算量身打造的特化型機種,能夠協助企業更輕鬆、快速地建置本地端的 LLM,包括 GPT-OSS、Llama 3、DeepSeek 或 Qwen 等主流開源模型。此外,QAI-h1290FX 也具備圖像生成式 AI 運行能力,可滿足 Stable Diffusion 與 ComfyUI 流暢運行的需求,展現其卓越的性能。

在硬體方面,QAI-h1290FX 也具備三個主要特色:
高效能硬體架構:伺服器 CPU、頂配記憶體與全快閃架構
為了滿足企業級運算負載,QAI-h1290FX 搭載了伺服器等級的 AMD EPYC 7302P 處理器,具備 16 核心 32 執行緒的頂尖規格,同時也支援最高 1TB 的 ECC DDR4 記憶體,能確保處理龐大 AI 模型時系統的穩定性。

此外,針對 AI 應用頻繁的資料讀寫需求,QAI-h1290FX 也提供了 12-Bay U.2 NVMe 擴充的全快閃架構,能提供更極致的 I/O 吞吐量,讓效能表現不因檔案量龐大而有所瓶頸。
專業級獨立顯示卡,兼顧效能與低功耗
為了滿足 AI 運算需求的頂尖算力,同時又要顧及長時間運行的功耗與散熱控制,QAI-h1290FX 採用效能頂尖的 NVIDIA RTX PRO 6000 Blackwell Max-Q 工作站版本專業繪圖卡,除了擁有頂尖的 3511 TOPS 算力,更搭載 96 GB GDDR7 視訊記憶體,能同時負載多個 LLM 模型運行、以及高解析度圖像生成任務。

此外,NVIDIA RTX PRO 6000 Blackwell Max-Q 工作站版本專業繪圖卡運作功耗僅 300W 左右,遠低於一般版本 600W 以上的功耗,可以在體積較小的機殼內穩定運行,更符合企業 ESG 節能與機房長期穩定運作的需求。

完善擴充性,滿足軟、硬體需求
除了單機出色的效能表現,QAI-h1290FX 更擁有頂尖的高速網路規格與完善的未來擴充性,內建雙 25 GbE 網路埠可以承載強大的資料吞吐量,內建 PCIe Gen4 插槽,未來也能彈性升級至 100 GbE 高速網路,滿足分散式訓練或大規模資料傳輸需求。

此外,在軟體應用整合方面,QAI-h1290FX 可以透過內建 Container Station 的 AI 應用程式範本讓 IT 可以快速完成各類型 AI 環境的建置,並依需求部署不同模型,讓使用者免去自行搜尋模型、搭設運行環境的麻煩,讓 AI 應用在最短時間內上線運行。而 QNAP 後續也將持續追蹤各類開源模型的更新,並持續更新相關資源,也會將教學指引資源發佈在線上社群中,讓企業能簡單上手。


應用廣泛,QAI-h1290FX 輕鬆打造自動化服務與工作流
QNAP 指出,QAI-h1290FX 最大的優點就是極低的技術門檻,透過完善的軟硬體整合,做到「開箱即用」的便利性。在 QNAP 的產品開發期間,已經有不少類型的產業藉由概念實測的形式導入 QAI-h1290FX,並完成多樣化的 AI 應用場景如下:

1.企業私有 LLM
透過本地端大型語言模型的建置,讓企業可以打造內部專屬的對話機器人(Chatbot),執行自動化助理、問答客服的任務。例如:公司將各式內部 SOP、HR 政策與員工規章資料全數匯入 LLM 中,即可讓員工直接透過自然對話查詢請假流程、員工福利…等資訊,可大幅降低行政人員的溝通成本,並能將所有的溝通記錄完整保存在公司內部網路中,不會有資料外流的疑慮。

2.企業內部知識庫
QAI-h1290FX 除了 LLM 建置,更能透過 QNAP 獨家的 Qsirch AI 工具,以 RAG(檢索增強生成)技術,將公司內部的海量文件匯入,進行完整的語意分析,並提供向量檢索功能。這樣的功能非常適合運用在「擁有龐大資料」的企業,像是法律事務所可以輕鬆建置便利查詢的過往判例資料庫,醫療單位能夠建立可檢索研究的病例庫,政府單位的法律規章查詢也能透過這樣的功能大幅提升效率。

而 Qsirch AI 與 RAG 的整合,也能有效避免單純只靠 LLM 知識基礎所造成的資料錯誤,相關回覆都能附上文件來源的連結,避免 AI 幻覺問題。除此之外,也能透過使用者權限的控管,確保不同層級的員工只能觸及自己權限內可查看的資料。
3.創意與內容製作
對於設計、行銷與媒體內容相關產業來說,QAI-h1290FX 也具備高效率的圖像生成能力,因此也能透過 Stable Diffusion 與 ComfyUI 的搭配,打造可靠的內容生成平台;像是在設計發展初期,可透過文字描述生成參考草圖,或是在已經有初步構圖時,以圖生圖方式快速產出多種不同風格的樣本,加速與業主溝通的進度。

其他像是社群行銷素材的生成,或是影片製作時快速產出搭配的影片字幕,也都能透過 QAI-h1290FX 高效率完成。
4.資料分析與專案研究
針對企業特定目標的資料分析需求,例如:市場調查、工廠產線效率與良率分析、銷售成績預測…等,也都能透過 QAI-h1290FX 進行專屬模型的訓練、推論與微調,即可獲得更客製化且精準的洞察結果。同時相關資料數據都能保留在本地端,不用擔心內部機敏資料外流。
QAI-h1290FX 實現 AI 成本節約,未來擴展更能與時俱進
對於企業來說,AI 技術的導入是保持競爭力的必要課題,但同時要兼顧優異效能、資料安全與成本控管這三大原則,本地端的 Edge AI 已經成為企業當下的必然選擇,而 QNAP 所推出的 QAI-h1290FX,正是為了幫助企業在這場 AI 轉型競賽中,以最穩健的步伐搶佔先機。
作為企業打造私有 AI 基礎建設的核心平台,QAI-h1290FX 不僅在硬體規格上對應最新一代的 AI 工作負載,透過完善的軟體生態整合,更能大幅降低企業 IT 的技術門檻,實現「開箱即用」的部署便利性。

QNAP 同時指出,未來也將持續擴大完整的 Edge AI 產品線,包括更具成本效益的入門級 CPU 搭配中階 NVIDIA RTX PRO 4500 Blackwell 繪圖卡的機種,提供單一需求使用的企業、工作室使用;同時也會有支援雙顯卡的高階旗艦產品問世,以滿足進階模型訓練或多重工作負載的需求。
同時,QNAP 也將持續與軟體生態夥伴緊密合作,不斷更新 QuTS hero 系統中的 AI 應用模板與功能,推動更多雲端應用服務的地端化,全方位陪伴企業穩健邁向 AI 轉型,確保企業的 AI 基礎建設能夠與時俱進、彈性擴展,成為推動產業 AI 落地的堅實後盾,陪伴每一家企業穩健地邁向智慧轉型的成功之路。


