本文将介绍 chocolate factory 框架背后的一系列想法和思路。在我们探索和设计框架的过程中,受到了:langchain4j、langchain、llamaindex、spring ai、semantic kernel、promptflow 的大量启发。
本文介绍了开发 jvm 语言的 llm 应用开发框架的思考过程,强调了框架的多样性和复杂性,以及如何通过框架和工具来支持各种 llm 应用场景。文章提供了有用的示例代码和抽象概念,包括结合向量化的交互、自动化规划、以及如何解释 rag 实现的 ragscript。同时,文章也探讨了 prompt 调试与编排的挑战,并提供了赢家斗地主的解决方案。