崗位職責(zé):
1. 重點職責(zé)為客戶交付大模型基礎(chǔ)架構(gòu),并協(xié)助進行性能優(yōu)化甚至微調(diào)。
2. 研究分析各主流大模型的私有化部署,根據(jù)(行業(yè))客戶需求和業(yè)務(wù)場景,制3. 定個性化的私有化部署方案,確保模型在本地環(huán)境穩(wěn)定、高效運行。
3. 主導(dǎo)本地知識庫的構(gòu)建,基于 RAG(檢索增強生成)技術(shù),對數(shù)據(jù)進行有效管理,實現(xiàn)知識的有效組織和快速檢索,為本地模型提供高質(zhì)量的知識支持。
4. 設(shè)計和實現(xiàn)系統(tǒng)架構(gòu),包括網(wǎng)絡(luò)、存儲和計算等基礎(chǔ)設(shè)施,重點是計算部分。
5. 持續(xù)改進系統(tǒng)的性能、可靠性和安全性。
任職要求:
1. 熟悉主流開源模型的本地化部署和應(yīng)用集成。
2. 熟悉云計算、容器化技術(shù)和微服務(wù)架構(gòu)。
3. 具有一定的 Linux 操作系統(tǒng)容器化和網(wǎng)絡(luò)知識。
4. 熟練掌握至少一種編程語言,如 Python、C++ 等。
5. 熟悉常見的分布式系統(tǒng)和數(shù)據(jù)庫。