12月11日消息，吉尼美國(guó)初創(chuàng)公司Tiiny Lab推出了其最新產(chǎn)品Pocket Lab，證全這是球最一款專為個(gè)人LLM設(shè)計(jì)、主打完全離線運(yùn)行的小迷“口袋AI超級(jí)計(jì)算機(jī)”。

這款設(shè)備憑借其極其緊湊的超算尺寸和強(qiáng)大的硬件配置，在“最小迷你PC（本地運(yùn)行100B參數(shù)LLM）”類別下獲得了吉尼斯世界紀(jì)錄的發(fā)布官方認(rèn)證。

Pocket Lab尺寸僅為14.2 x 8 x 2.5厘米，搭載重量約300克，內(nèi)存內(nèi)部配置也很強(qiáng)大：

處理器：基于ARM v9.2架構(gòu)的吉尼12核ARM CPU。

AI算力：定制異構(gòu)模塊（SoC + dNPU），證全提供約190 TOPS的球最總AI算力。

內(nèi)存與存儲(chǔ)：配備了高達(dá)80GB的小迷LPDDR5X內(nèi)存（其中48GB專用于NPU）和1TB SSD。

功耗：典型系統(tǒng)功耗為65W。超算

Pocket Lab最大的發(fā)布亮點(diǎn)在于，其能夠完全在本地離線狀態(tài)下運(yùn)行高達(dá)1200億參數(shù)的搭載大模型，打破了以往對(duì)云端、服務(wù)器或高端GPU的依賴。

該公司通過(guò)TurboSparse（神經(jīng)元級(jí)稀疏激活技術(shù)）和PowerInfer（開(kāi)源異構(gòu)推理引擎）等技術(shù)，實(shí)現(xiàn)了在低功耗下達(dá)到近似服務(wù)器級(jí)的性能，尤其針對(duì)10B至100B參數(shù)的個(gè)人AI “黃金區(qū)間”進(jìn)行了優(yōu)化。

Pocket Lab支持一鍵安裝包括Llama、Qwen、DeepSeek、Mistral、Phi和OpenAI GPT-OSS在內(nèi)的多種主流開(kāi)源模型，并支持OpenManus、ComfyUI等AI Agent框架。

Tiiny AI確認(rèn)，這些軟件功能和OTA硬件升級(jí)將在2026年1月的CES展會(huì)上正式發(fā)布，該產(chǎn)品的定價(jià)細(xì)節(jié)目前仍未公布。

(責(zé)任編輯：時(shí)尚)