OpenLLM是一个开源框架,简化了本地或云端大型语言模型的部署和管理。它提供API和集成,方便使用LLM。
你可能也对这些工具感兴趣
开源 API 管理系统,GitHub 50k+ stars,支持自部署
领先的AI研究公司,提供GPT-4、GPT-3.5、DALL-E和Whisper API
统一 API 接口,支持 200+ AI 模型,智能路由,价格有竞争力
AI安全公司,提供Claude 3系列模型,支持超长上下文