我接過很多Agent智能體定制的單子,
印象最深是做金槍大叔的腳本Agent,先不說要求是實(shí)時(shí)聯(lián)網(wǎng)+視頻分析+視頻逐字稿+圖片素材生成+發(fā)布文案要在一個(gè)Agent里完成,還需要并行生成四個(gè)模型的運(yùn)行結(jié)果可以對(duì)比(破防),
他們給我的初demo,基本上是用不了的。。。
![]()
接到這個(gè)需求的時(shí)候,我深呼吸了500秒,
給了線下版Dify和線上版coze兩套方案,
直接說結(jié)論,已知對(duì)面沒有開發(fā)的情況不選Dify,且不能登他們的Coze賬號(hào)前提下(因?yàn)榭臻g還有知識(shí)庫不夠安全),我直接分享做好的智能體過去是看不到提示語的(如果這里是我配置有問題麻煩立刻踢我),
這意味著,只要有任何的版本更新或者維護(hù)需求,比如覺得AI的某句話文風(fēng)不對(duì),要我改改。我就必須重復(fù)那個(gè)最原始的動(dòng)作:找他們,要賬號(hào),登錄,修改,退出。
而且對(duì)接的人工作空間配得細(xì)碎,做完之后,老板的賬號(hào)還看不到這個(gè)Agent。
頭疼,相當(dāng)頭疼。
上周吃到了@袋鼠帝的LazyCraft安利,簡(jiǎn)單來說這同樣是個(gè)開源AI Agent開發(fā)和管理平臺(tái),
Apache-2.0開源版就包含了一般的企業(yè)級(jí)才齊全的功能點(diǎn),可視化應(yīng)用搭建界面(功能模塊23個(gè),Dify開源版16個(gè)),知識(shí)庫,提示語管理,推理服務(wù),MCP Servers(同時(shí)支持本地和遠(yuǎn)程),數(shù)據(jù)管理,模型評(píng)測(cè),模型微調(diào)的同時(shí)!
![]()
還支持多工作空間和多租戶管理,不同身份能調(diào)用的資源可以劃分開。
目前Star還不多,但我翻了翻它的開發(fā)團(tuán)隊(duì),是商湯基于他們?cè)谌ツ觊_源的LazyLLM構(gòu)建的。 https://github.com/LazyAGI
![]()
還有還有,他們自己也貼了自己跟Coze和Dify的功能對(duì)比,
![]()
所以我也來說說這幾天的使用感受,
再附上小學(xué)生級(jí)的安裝教程(一行命令,多了轟炸我)。
首先,也是最難得的,多用戶多權(quán)限管理。
這基本上是開源項(xiàng)目買企業(yè)版的核心賣點(diǎn),如果還有印象兩年前GPT套殼滿天飛的時(shí)候,我當(dāng)時(shí)就想著省事,買了ChatGPT Web的二次開源版本,結(jié)果就是用戶管理是單獨(dú)一個(gè)套餐,模型分流計(jì)費(fèi)又是一個(gè)套餐,一套接一套,比我一個(gè)南方人冬天去哈爾濱穿的都多。
![]()
LazyCraft直接就把它開源了。
它有一個(gè)非常清晰的使用層級(jí),團(tuán)隊(duì) -> 用戶管理 -> 添加用戶。
你可以在后臺(tái)任意添加新用戶,也可以讓他們自己注冊(cè)。然后我可以設(shè)置用戶組,比如產(chǎn)品部門、運(yùn)營(yíng)部門。把指定的用戶,拉進(jìn)這個(gè)組里,然后設(shè)置他的權(quán)限。
![]()
只讀,就代表這個(gè)用戶只能查看和使用這個(gè)空間下的Agent應(yīng)用、知識(shí)庫。
讀寫,就代表他可以編輯。
管理員,就代表他有這個(gè)工作空間的最高權(quán)限。
我完全可以給老板一個(gè)只讀權(quán)限,讓他看到所有Agent的運(yùn)行情況,給業(yè)務(wù)部門讀寫權(quán)限,讓他們?nèi)サ约旱腜rompt,給平時(shí)用這個(gè)Agent的運(yùn)營(yíng)部門只讀權(quán)限,隨便用隨便折騰,也不會(huì)搞壞任何配置。
還內(nèi)置了日志記錄和費(fèi)用統(tǒng)計(jì)。
![]()
![]()
你可以清清楚楚地看到,哪個(gè)用戶,在什么時(shí)間,調(diào)用了哪個(gè)模型,消耗了多少Token。
當(dāng)老板問你,我們這個(gè)月花在大模型上的錢,到底值不值的時(shí)候,
你可以直接給到他一個(gè)后臺(tái)報(bào)表。
有了用戶管理,我們下一步就要解決一個(gè)終極哲學(xué)問題了,用本地模型,本地框架,本地?cái)?shù)據(jù),物理隔絕,隱私安安全全,
還是用API,本地框架,云端數(shù)據(jù)管理,為的是團(tuán)隊(duì)可以使用這一套囤下來的提示語工作流呢?
LazyCraft選擇都要,
在模型倉庫里,我可以直接加載Hugging Face或者M(jìn)odel Scope魔搭上的模型,
https://modelscope.cn/models
https://huggingface.co/models
也可以導(dǎo)入你自己下載好的本地模型文件,選模型我一般是按下載量以及任務(wù)來篩選的,huggingface上還可以先把參數(shù)量限制上。
![]()
![]()
如果拿不準(zhǔn)的話可以按照這個(gè)公式去估算,以Mac舉例,Memory是24GB的前提,能運(yùn)行的比較流暢的模型大小應(yīng)該是24*0.8/2,20%是留給電腦正常運(yùn)行,*2就是對(duì)應(yīng)上模型本身大小,所以說qwen3:8b(<10)在我的電腦上是可以運(yùn)行的。
如果有足量的數(shù)據(jù)集,想微調(diào)一些0.5B左右大小的模型的話,比方我會(huì)用來做用戶意圖識(shí)別,還可以試試看LazyCraft的模型微調(diào),
![]()
微調(diào)完了,還要避免模型蹺蹺板,功能A提升了,功能B忘了,
LazyCraft內(nèi)置了模型測(cè)評(píng),支持人工和AI評(píng)測(cè),在同一個(gè)數(shù)據(jù)集上,進(jìn)行盲測(cè)。那作為開源第一版,LazyCraft的Issues我也挨個(gè)看了一遍
![]()
首先就是目前能下載的開源模型,以及能接入的大模型數(shù)量需要更多,我直接列一個(gè)表出來,希望后續(xù)能蹲到更多的更新。
![]()
OK,模型ready和數(shù)據(jù)都ready后直接快進(jìn)到可視化搭建,
畫布這個(gè)形式我覺得現(xiàn)在就已經(jīng)追溯不到哪個(gè)是第一個(gè)做的,但目前各家的Agent編輯平臺(tái)基本上已經(jīng)是畫布大一統(tǒng)了,這也降低了上手的難度,
![]()
LazyCraft支持兩種MCP接入方式,一種遠(yuǎn)程的SSE,一種本地的STDIO。
很多線上的Agent平臺(tái)不支持本地STDIO的接入。關(guān)鍵是很多功能強(qiáng)大,但又不方便暴露成API的MCP工具,比如一些本地的數(shù)據(jù)處理腳本,它們提供的就是STDIO,MCP出圈的3D Blender模塊,也是STDIO。
![]()
這周下來我使用的亮點(diǎn)盤差不多了,
該上炒雞無敵簡(jiǎn)單安裝教程了,說好的一行命令多一行都不行。
先去 https://github.com/LazyAGI/LazyCraft.git 下載代碼,解壓并進(jìn)到子目錄docker
![]()
然后安裝docker,每個(gè)人電腦環(huán)境可能都不同,用docker封裝的環(huán)境勝在夠穩(wěn)定 https://www.docker.com/products/docker-desktop/
到了唯一一個(gè)需要代碼的點(diǎn)了,不管是mac還是wins,在剛剛打開的子目錄docker右鍵或者快捷鍵打開命令行,輸入
docker-compose up -d
這行命令短到我甚至不需要用代碼塊單獨(dú)分割出來,看到這個(gè)樣子就成了
![]()
然后就在瀏覽器打開 127.0.0.1:30382,
賬號(hào):admin,密碼:LazyCraft@2025。
完事了,搞定了,直接開整了。
它把應(yīng)用編排,模型管理,模型微調(diào),權(quán)限管理,這些企業(yè)落地最痛最核心的能力,完整開源了出來。
說真的,好用的開源項(xiàng)目,再多我也不嫌多。這就像我們?nèi)コ曰疱仯瑐涞牧显阶悖睦锞驮教?shí)。
Dify可能就是那盤肥牛,Coze是毛肚,但你總得備點(diǎn)貢菜,紅糖糍粑和白米飯吧。
LazyCraft就是那個(gè)我可能一開始沒注意,
但一口下能讓我吃得飽,吃得舒服的蝦滑。
這樣稱手的工具,多一個(gè),就多一條路。
老話說得好啊,
多準(zhǔn)備一條路,
總沒錯(cuò)的。
@ 作者 / 卡爾
最后,感謝你看到這里如果喜歡這篇文章,不妨順手給我們點(diǎn)贊|在看|轉(zhuǎn)發(fā)|評(píng)論
如果想要第一時(shí)間收到推送,不妨給我個(gè)星標(biāo)
更多的內(nèi)容正在不斷填坑中……
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.