Str umenti LL M a livello di produzione
Moda lità di programma zione
A causa della forte comprensi one e capacità di genera zione di questa ond ata di LL M , la programma zione imper ativa che presta attenzione ai dettag li non sembra più necess aria , e la programma zione dichiar ativa che si concentra sul processo o sulla capacità di pip eline di orch estra zione della logi ca azi enda le è divent ata il modo principale di " programma zione ", quindi vediamo che i principi anti , tra cui L CE L , D SP y e Sem an tic - k ern el , inizi ano a concentrar si " in alto ", concentr ando la loro energia principale sulla capacità di orch estra zione della logi ca azi enda le , forse questo indica un appro ccio DA G simile a Air f low . Sarà un mod ello di programma zione di nuova genera zione .
comp les sivamente
Str umenti Prom pt
Lang Sm ith e Azure Prom pt F low
L ingu aggio di programma zione
Python e JavaScript
Framework di sviluppo / Str umenti di orch estra zione
Lang chain o kern el sem it ico
Framework API / Framework di servizio
Fast API e Next . js
Prod utt ore di cloud hosting
R ender (A WS Lam ada) o Ver cel
Cos tru ire applica zioni LL M
| 分类 | Name | Star数量 | 备注 | 学习 |
|---|---|---|---|---|
| 框架 | LangChain | 77 | 【必学】 | * |
| LlamaIndex | 29 | 【必学】专注于RAG，Python，JS SDK比较差 | * | |
| Semantic-kernel | 17 | 【不确定？】C#，Python，Java | ? | |
| haystack | 13 | 有了LangChain可能就不需要这个了 | ||
| DSPy | 7 | 太学术了？The framework for programming—not prompting—foundation models | ||
| Agent | SuperAgent | 4 | 这个感觉很专业，有时间再学习 | ? |
| Rift | 3 | 专门针对程序员 | ||
| AutoGen | 22 | |||
| Camel | 4 | |||
| GPTs | OpenGPTs | 6 | LangChain出品 | |
| 低代码 | LangFlow | LangChain可视化 | ||
| LiteLLM | ||||
| Flowise | 21 | |||
| Langflow | 14 | |||
| PromptChainer | 商业 | 感觉做的很专业 | ||
| RAG | vectara | 闭源 | 非常专业的RAG商业软件；也有开源项目；用户可以将PDF、Word、PPT、RTF等文件数据上传至Vectara平台中，构建数据搜索引擎。 |
Archi vio e osserva zione
| 分类 | Name | Star数量 | 备注 |
|---|---|---|---|
| 观察 | Obsidian Copilot | 一个有趣的方法，用于如何使用语义搜索和 OpenSearch 的 BM25 实现 | |
| Tanuki | 一个使用装饰器进行数据验证的 LLM 框架 | ||
| griptape | 1.5 | 一个具有稍微更好的内部编码标准的 langchain 替代品 | |
| guidance | 16 | 比传统的提示或链接更有效地控制现代语言模型 | |
| intructor | 3.6 | ||
| Llmflows | 0.5 | langchain 的另一个替代品，但在定义工作流程方面有一个有趣的方法 | |
| txtai | 6.5 | 有用于聊天、医学/科学论文工作流程、开发者语义搜索以及标题和故事文本语义搜索的衍生产品 | |
| LiteLLM | 5.7 | 一个简单、轻量级的 LLM 封装器 | |
| 归档 | Chidori | 1.2 | |
| AutoChains | 已经3个月没更新 | ||
| MiniChain | 1.2 | 已经3个月没更新 | |
| SimpleAIChat | 3.3 | 已经7个月没更新 |
Monitor aggio e An alisi
I servizi LL M a livello di produzione richi ed ono :
-
Inst alla zione Prom pt
-
G esti one delle versi oni prompt
-
Indi cat ori per il sistema di test / verifica
-
G esti one del set dati
-
Monitor aggio e statisti che di varie metri che : visite , tempi di risposta , tas se di token , ecc .
| 分类 | Name | Star数量 | 备注 |
|---|---|---|---|
| SaaS | LangSmith | N/A | |
| 开源 | LangFuse | 2 | |
| 开源 | Prompt Flow | 7 | |
| Helicone | 1.2 |
Pi atta forma di manuten zione di applica zioni LL M di livello di produzione
-
-
- Lang Sm ith * * : Pi atta forma ufficiale di Lang C hain , servizio Saa S , * * Non open source * *
-
-
-
- [ L ang F use ] (htt ps ://git hub . com/lang f use/lang f use) * * : * * open source * * + Saa S , Lang Sm ith , integra zione con Lang C hain , API Open AI (2. 1 K)
-
-
-
- [ P rom pt F low ] (htt ps ://github.com/microsoft/promptflow? tab = read me - ov - file) * * : Microsoft * * open source * * + Servi zi cloud di Azure AI con integra zione con Sem an tic Kern el (7. 4 K)
-
F lus so rap ido
appr end imento
https://microsoft.github.io/promptflow/how-to-guides/quick-start.html
I compon enti UI
LangUI(1.6K)
agentlabs(0.5K)
Al tro
| 分类 | Name | Star数量 | 备注 |
|---|---|---|---|
| LCEL | |||
| Python 模板语言 | Jinja2 | ||
Referenc
| 分类 | Name | Star数量 | 备注 | |
|---|---|---|---|---|
| 框架 | Obsidian Copilot | 一个有趣的方法，用于如何使用语义搜索和 OpenSearch 的 BM25 实现 | ||
| Tanuki | 个使用装饰器进行数据验证的 LLM 框架 | |||
| LiteLLM | 5.7 | 一个简单、轻量级的 LLM 封装器 | ||
| AutoChain | 1.7 | langchain 的另一个替代品 | ||
| griptape | 1.5 | 一个具有稍微更好的内部编码标准的 langchain 替代品 | ||
| txtai | 6.5 | has spinoffs for chat, workflows for medical/scientific papers, semantic search for developers and semantic search for headlines and story text 有用于聊天、医学/科学论文工作流程、开发者语义搜索以及标题和故事文本语义搜索的衍生产品 | ||
| Llmflows | 0.5 | langchain 的另一个替代品，但在定义工作流程方面有一个有趣的方法 | ||
| guidance | 16 | 比传统的提示或链接更有效地控制现代语言模型 | * | |
| 库 | intructor | 3.6 | * |
-
- E 2 B : framework e strumenti per i prodotti AI * *
| Category | Tools/Platforms |
|---|---|
| Monitoring, Observability, Analytics | Langsmith, Helicone, langfuse, context |
| Frontend | AgentLabs |
| Runtime for LLMs | E2B |
| Building frameworks & platforms | Langchain, Haystack by deepset, Superagent, Poe, GenWorlds, LiteLLM, Rift by Morph, AutoGen, Vercel AI SDK, OpenGPTs, Huggging Face Agents, Fixie |
| Data integration, memory management | vectara, LlamaIndex, ABACUS.AI, cadea, SID Memory |
| API and routers for LLMs | Genoss GPT, Martian, OpenRouter |
| Libraries for building AI products | CAMEL, ChatterBot（5年没更新了） |
| Orchestration | AGIXT |
| Building & deploying LLMs | BANANA |
