半个多小时后,沈如真的帕梅驶驶进了别墅的车库。
沈如真和一个戴着眼镜、有些秃顶,看上去30多岁的男人,走进了陈枫的别墅。
沈如真向陈枫介绍:“这是我们公司的网络主管宋智鹏,他懂ai大模型的事情。
宋智鹏,这是我朋友陈枫,就是他想要部署本地大模型。”
宋智鹏有些拘谨地跟陈枫握手打招呼:“陈总好。”
陈枫:“不必客气,麻烦你了宋主管。”
陈枫把人请到沙发上坐下,泡了茶送来。
略作寒暄后,进入了正题。
说起自己的专业,宋智鹏不再拘谨:“其实部署本地大模型并不难,就是组建服务器,然后在上面安装大模型就可以了。
就是不知道,陈总需要什么要规格的?”
陈枫:“最好的。”
宋智鹏:“大模型最核心的就是算力显卡,有国外和国内两种方案。
现在国外对我们搞封锁,高算力的显卡己经很难买到,只能使用国内的方案,也就是华为的昇腾910b。
一般8块显卡,可以组建一台服务器。
910b的价格在12万到20万左右,但现在一卡难求,想要买到,可能要用最高价,也就是一片20万左右。
再加上其他的配件,一台服务器的价格在200万左右。
陈总想要更高的算力,就在此基础上,增加服务器的数量就可以了。”
陈枫:“一般用几台?”
宋智鹏:“1台也能用,具体看需求和预算。”
陈枫:“不用考虑预算。”
宋智鹏:“那就4台,差不多就能拥有一个很不错的算力模型。更高的算力,性价比就不高了。”
陈枫:“那就4台,这件事情就麻烦你了。”
宋智鹏忙道:“陈总客气了,我一定把这事办好。”
客气了几句后,陈枫说道:“你可以去联系购买渠道了,我等下会让你们沈总给你一张卡,需要花的钱,就从卡里支取。”
宋智鹏连忙答应下来。
沈如真让宋智鹏先出去等待一下,她问陈枫道:“你花这么多钱,部署一个本地大模型做什么?”
陈枫:“学习啊,你不知道现在最先进的技术就是人工智能啊,人要不断的学习,才能不被时代所淘汰对吧。”
沈如真狐疑地盯着陈枫看了几眼:“把钱给我吧,我可不想给你垫资。”
陈枫拿出一张卡交给沈如真:“现在里面没钱,晚点会有1000万转进去。”
沈如真接过卡,没怀疑陈枫的诚信。
虽然,陈枫看上去总是有点不靠谱,但还从来没有食言过。