
深圳市大數據研究院研究科學家、智子芯元聯合創(chuàng)始人丁添。 深圳特區(qū)報記者 耿超逸 攝
深圳新聞網2026年3月10日訊(深圳特區(qū)報記者 鄭銘)2026年開年不久,中國AI算力賽道傳來一聲“加速”哨響。
由深圳市大數據研究院孵化的智子芯元公司,成立僅5個月,便拿出一張硬核答卷:其自主研發(fā)的一款名為KernelCAT的AI Agent工具,38分鐘完成DeepSeek-OCR-2模型在華為昇騰平臺的全自動部署與推理驗證。曾經讓頂尖工程師團隊撓頭的大模型與國產芯片“適配”難題,如今只用花費喝完一杯熱咖啡的時間就可解決,且全程基本無需人工干預。
38分鐘奇跡:
AI“翻譯官”如何打破適配困局
要把一個原本為國外芯片設計的AI模型,遷移到國產昇騰芯片上運行,到底有多難?
“AI模型就像一套復雜的指令,不同的芯片能聽懂的語言不一樣。而AI模型適配國產芯片,就是讓模型能在國產芯片上正常運行,還能發(fā)揮芯片性能。”深圳市大數據研究院研究科學家、智子芯元聯合創(chuàng)始人丁添打了個比方:“就像你只有一臺蘋果電腦,卻想玩一個只有Windows版本的游戲。你需要去找游戲公司或蘋果客服花幾個月時間進行專門適配,普通用戶很難自己做到?!?/p>
在AI的世界里,這個“適配”過程靠的是算子——它是連接算法與芯片的“翻譯官”,把模型指令轉換成芯片能聽懂的語言。算子寫得好不好,直接決定了模型跑得快不快、能耗高不高。在過去,為了把一個復雜模型“翻譯”適配到國產芯片上,工程師們得一行一行手寫底層代碼,耗時數周甚至數月,還未必能發(fā)揮芯片的全部性能。
DeepSeek-OCR-2是一款引入了“視覺因果流”設計的復雜多模態(tài)模型,對算子的要求極高,適配這類模型意味著要面對最令人頭疼的“版本地獄”:vLLM、PyTorch和NPU驅動之間錯綜復雜的版本互鎖,一個版本不匹配,整個工程就得推倒重來。
而在KernelCAT接到“把DeepSeek-OCR-2模型部署到昇騰平臺”的任務后,它的運行則全程無需人工干預:自動解析模型結構,智能排雷,動態(tài)生成遷移方案,并在硬件上反復測試驗證。從下達指令到推理驗證完成,僅耗時38分鐘。
據昇騰官方平臺消息,在前序DeepSeek-OCR的1代模型的部署測試中,KernelCAT優(yōu)化后的方案較原生方案推理加速最高達139倍。這意味著,復雜OCR模型不僅能在國產算力平臺上“跑起來”,更能“跑得穩(wěn)、跑得快”。
“數學+AI”雙引擎:
一家初創(chuàng)公司的突破密碼
一家成立僅5個月的公司,憑什么做出國內領先行列全自動AI模型遷移工具?
談及最初的研發(fā)初衷,深圳市大數據研究院副院長張昕介紹,現在很多單位買了國產算力卡,但不知道怎么用。華為的支持是通用型的,但每家需求不同,怎么低成本快速部署,是個非常大的行業(yè)痛點。
這個痛點,恰好撞上了深圳市大數據研究院十多年的深厚積累?!拔覀冊趹脭祵W、運籌優(yōu)化、求解器等領域走在國內前列,算子開發(fā)、AI Infra(基礎架構)本質上都是優(yōu)化問題,這正是我們擅長的方向。AI大模型我們也已布局三四年,丁添博士團隊全力攻關,再加上研究院開放包容的土壤給了大家充分的自由度——憑興趣找準研發(fā)點,沉浸下去、持續(xù)突破。這種氛圍,讓很多‘不可能’慢慢變成了現實?!睆堦空f道。
據悉,作為深圳首批十大基礎研究機構之一,深圳市大數據研究院長期致力于解決“卡脖子”問題,堅持以數學為基礎,以數據為驅動,以重大應用為導向。智子芯元是由深圳市大數據研究院孵化的科技企業(yè),團隊成員承襲了研究院“數學+AI”路徑,將高深的運籌優(yōu)化理論與最前沿的AI大模型技術結合,攻克了算法與算子這一“最后一公里”難題。
從跟跑到領跑:
開拓國產算力生態(tài)的星辰大海
KernelCAT的誕生,意義遠不止于“省幾周時間”。
國產芯片關系到算力底座能否自主可控。軍事、醫(yī)療等關鍵領域的模型,不能長期依賴國外芯片運行。要讓國產芯片真正用起來、跑得穩(wěn),就必須解決國產芯片開發(fā)難的瓶頸。
“現在,我們有了換道超車的可能?!痹诙√砜磥?,KernelCAT不只是一個模型遷移工具,它更是一個通用計算加速開發(fā)平臺。工程師未來可以在國產芯片上,借助這個工具開發(fā)自己想要的、性能更強的AI模型。他希望,在這個工具的幫助下,未來在國產芯片上能孕育出世界一流的AI模型。
據了解,作為國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)和創(chuàng)新應用先導區(qū),深圳擁有良好產業(yè)基礎、廣闊市場空間和強勁創(chuàng)新活力。全市現有人工智能企業(yè)2600余家,產業(yè)鏈覆蓋芯片、模型、硬件及應用全環(huán)節(jié)。《深圳市加快打造人工智能先鋒城市行動計劃》等接連出臺,從資金、場景、人才到產業(yè)鏈協同,為創(chuàng)新企業(yè)鋪好跑道。智子芯元正是這條跑道上加速沖刺的選手之一。
“我們不僅在做一家公司,更在探索數學與AI最本質的結合如何轉化為產業(yè)生產力?!倍√硇χ硎荆跋M约汉蛨F隊能為這座城市的‘硬’產業(yè),修好最關鍵的那條‘軟’路。”