ChatGPT 应用开发指南
OpenAI 官方开发资源
Prompt 开发资源
LangChain 开发资源
向量数据库
如果说 ChatGPT 是 LLM 的处理核心,prompts 是 code,那么向量数据库就是 LLM 需要的存储。
|
名称 |
Stars |
简介 |
备注 |
|
PineCone |
- |
Pinecone为向量数据提供了数据存储解决方案。 |
提供免费方案,目前注册火爆 |
|
|
chroma |
|
Chroma 是一个用于 Python / JavaScript LLM 应用程序的本地向量数据库,它具有内存快速访问的优势。 |
开源免费 |
|
|
qdrant |
|
QDRANT AI应用程序矢量数据库,也提供云数据库: https://cloud.qdrant.io/ |
现在注册有 1G 的永久免费数据库 |
|
|
Milvus |
|
Milvus 是一个开源矢量数据库,旨在为嵌入相似性搜索和 AI 应用程序提供支持。 除了向量,Milvus 还支持布尔型、整数、浮点数等数据类型。 Milvus 中的一个集合可以包含多个字段,用于容纳不同的数据特征或属性。 Milvus 将标量过滤与强大的向量相似性搜索相结合,为分析非结构化数据提供了一个现代、灵活的平台。 |
目前提供多种部署方式,支持docker, k8s, embed-milvus(pip install嵌入安装),同时也有在线云服务。 |
|
|
weaviate |
|
开源的向量数据库,可以存储对象和向量,允许将向量搜索与结构化过滤相结合,并具有云原生数据库的容错性和可扩展性,可通过 GraphQL、REST 和各种语言客户端进行访问。 |
- |
|
|
txtai |
|
用于语义搜索、LLM编排和语言模型工作流的一体化开源嵌入式数据库。 |
💡 All-in-one open-source embeddings database for semantic search, LLM orchestration and language model workflows |
|
中文大模型开发资源
名称 |
Stars |
简介 |
备注 |
ChatGLM-6B |
|
ChatGLM-6B: An Open Bilingual Dialogue Language Model |
ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型,基于 General Language Model (GLM) 架构,具有 62 亿参数。结合模型量化技术,用户可以在消费级的显卡上进行本地部署(INT4 量化级别下最低只需 6GB 显存)。 ChatGLM-6B 使用了和 ChatGPT 相似的技术,针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练,辅以监督微调、反馈自助、人类反馈强化学习等技术的加持,62 亿参数的 ChatGLM-6B 已经能生成相当符合人类偏好的回答。 |
baichuan-7B |
|
A large-scale 7B pretraining language model developed by Baichuan |
baichuan-7B 是由百川智能开发的一个开源可商用的大规模预训练语言模型。基于 Transformer 结构,在大约1.2万亿 tokens 上训练的70亿参数模型,支持中英双语,上下文窗口长度为4096。在标准的中文和英文权威 benchmark(C-EVAL/MMLU)上均取得同尺寸最好的效果。 |
Huatuo-Llama-Med-Chinese |
|
Repo for BenTsao [original name: HuaTuo (华驼)], Llama-7B tuned with Chinese medical knowledge. |
华佗——医疗领域中文大模型 |
ChatYuan |
|
ChatYuan: Large Language Model for Dialogue in Chinese and English. |
ChatYuan-large-v2是ChatYuan系列中以轻量化实现高质量效果的模型之一,用户可以在消费级显卡、 PC甚至手机上进行推理(INT4 最低只需 400M )。 |
langchain-ChatGLM |
|
langchain-ChatGLM, local knowledge based ChatGLM with langchain |
基于本地知识库的 ChatGLM 问答 |
wenda |
|
闻达:一个LLM调用平台。 |
多种大语言模型:目前支持离线部署模型有chatGLM-6B、chatRWKV、llama系列以及moss,在线API访问openai api和chatGLM-130b api |
OpenAI 服务替代品
名称 |
简介 |
备注 |
Claude 官方文档 |
OpenAI 前成员出走创立了Anthropic 公司旗下的大模型 Claude 开发官方文档。 |
OpenAI 的强有力竞争对手 |
Cohere |
coherence 提供了前沿的语言处理技术 API 服务。 |
- |
AI21 |
以色列公司 A21 Labs 开发了一个名为 Jurassic-1 Jumbo 的模型。该模型大小与 1750 亿参数的 GPT-3 类似。该公司还围绕 Jurassic-1 Jumbo 逐渐构建起一系列产品,包括一个名为 AI21 Studio 的“AI-as-a-service”平台。该平台允许客户创建虚拟助手、聊天机器人、内容审核工具等。 |
- |
智谱AI开放平台 |
中文大模型 API。 基于千亿基座模型 GLM-130B,注入代码预训练,通过有监督微调等技术实现人类意图对齐的中英双语大模型。 |
- |
API 资源
名称 |
Stars |
简介 |
备注 |
gpt4free |
|
decentralising the Ai Industry, just some language model api’s… |
免费的 ChatGPT API |
gpt4free-ts |
|
Providing a free OpenAI GPT-4 API ! This is a replication project for the typescript version of xtekky/gpt4free |
typescript 版本的免费 ChatGPT API |
claude-to-chatgpt |
|
This project converts the API of Anthropic’s Claude model to the OpenAI Chat API format. |
将 Claude API格式转换为 ChatGPT API 格式 |
Bard-API |
|
The unofficial python package that returns response of Google Bard through cookie value. |
谷歌 bard 网页版 API 封装 |
claude-in-slack-api |
|
claude in slack api. |
通过 Slack API 来使用 Claude,保姆级教程 |
yiyan-api |
|
- |
百度文心一言网页版 API |
一键部署资源
名称 |
Stars |
简介 |
备注 |
vercel-labs/ai |
|
Build AI-powered applications with React, Svelte, and Vue. |
使用 Vercel 平台一键部署多种 AI,ChatGPT 应用。 |
ChatGPT-Next-Web |
|
One-Click to deploy well-designed ChatGPT web UI on Vercel. |
一键拥有你自己的 ChatGPT 网页服务。 |
ChatGPT-Midjourney |
|
Own your own ChatGPT+Midjourney web service with one click |
🎨 一键拥有你自己的 ChatGPT+Midjourney 网页服务 |
novel |
|
Notion-style WYSIWYG editor with AI-powered autocompletions. |
AI 驱动的 Notion 风格的所见即所得自动完成编辑器 |
ai-chatbot |
|
A full-featured, hackable Next.js AI chatbot built by Vercel Labs. |
由Vercel Labs构建的全功能,可编程的Next.js AI聊天机器人 |
其他开发资源
名称 |
Stars |
简介 |
备注 |
LlamaIndex |
|
Provides a central interface to connect your LLMs with external data. |
将llm与外部数据连接起来。 |
dspy |
|
DSPy: The framework for programming—not prompting—foundation models. |
下一代 Agents 自优化开发框架 |
llm-numbers |
|
Numbers every LLM developer should know. |
大模型开发者必知数据 |
《用ChatGPT API构建系统》课程 |
- |
DeepLearning.ai 创始人吴恩达和OpenAI合作的新的“使用ChatGPT API构建系统”的课程 |
课程链接(中英文字幕): https://pan.baidu.com/s/1BgUKWwh5YSby3IVkGvLi_w?pwd=22b7 提取码: 22b7 |
开发指南:ChatGPT 插件开发 |
- |
详细介绍了开发流程,并通过“待办事项列表(to-do list)插件”的案例开发过程进行了演示。 |
- |
gptcache |
|
Semantic cache for LLMs. Fully integrated with LangChain and llama_index. |
AIGC 应用程序的memcache,一个强大的缓存库,可用于加速和降低依赖 LLM 服务的聊天应用程序的成本,可用作 AIGC 应用程序的memcache,类似于 Redis 用于传统应用程序的方式。知乎简介:有效果实测图和基本介绍。 |
dify |
|
One API for plugins and datasets, one interface for prompt engineering and visual operation, all for creating powerful AI applications. |
快速创建AI应用程序平台,网站 dify.ai |
OpenChat |
|
Run and create custom ChatGPT-like bots with OpenChat, embed and share these bots anywhere, the open-source chatbot console. |
构建聊天机器人。 |
gptlink |
|
- |
10分钟搭建自己可免费商用的ChatGPT环境,搭建简单,包含用户,订单,任务,付费等功能. |
readme-ai |
|
Automated README.md files. |
使用 OpenAI 语言模型 API,为编写美观、结构化和信息丰富的 README.md 文件而设计的命令行工具。 |
dialoqbase |
|
Create chatbots with ease. |
轻松创建聊天机器人 |
privateGPT |
|
基于 Llama 的本地私人文档助手 |
- |
rebuff |
|
Rebuff.ai - Prompt Injection Detector. |
Prompt 攻击检测,内容检测 |
text-generation-webui |
|
- |
一个用于运行大型语言模型(如LLaMA, LLaMA .cpp, GPT-J, Pythia, OPT和GALACTICA)的 web UI。 |
embedchain |
|
embedchain is a framework to easily create LLM powered bots over any dataset. |
Embedchain是一个框架,可轻松在任何数据集上创建LLM驱动的机器人。 |
aigc |
|
- |
《构筑大语言模型应用:应用开发与架构设计》一本关于 LLM 在真实世界应用的开源电子书,介绍了大语言模型的基础知识和应用,以及如何构建自己的模型。其中包括Prompt的编写、开发和管理,探索最好的大语言模型能带来什么,以及LLM应用开发的模式和架构设计。 |
FLAML |
|
A fast library for AutoML and tuning. Join our Discord: https://discord.gg/Cppx2vSPVP. |
FLAML一个用于机器学习和人工智能操作的高效自动化的轻量级 python 库。它基于大型语言模型、机器学习模型等实现工作流自动化,并优化其性能。 |
LLMStack |
|
No-code platform to build LLM Agents, workflows and applications with your data. |
无代码平台,利用您的数据构建 LLM 代理、工作流程和应用程序。 |