上一章中,我们学习了如何处理数据并在向量数据库中创建和存储嵌入。在本章中,我们将学习如何根据用户的查询高效地检索最相关的嵌入和文档块。这样就能够构建一个包含相关文档作为上下文的提示,从而提高 LLM 最终输出的准确性。这个过程——包括嵌入用户查询、从数据源检索相似文档,然后将它们作为上下文传递给发送到 LLM 的提示——正式名称为检索增强生成 (RAG)。……继续阅读 » Alan 6个月前 (06-10) 1408浏览 0评论1个赞
上一章中,我们学习了 LangChain 用于创建 LLM 应用程序所使用的重要构建模块。还构建了一个简单的 AI 聊天机器人,包含发送给模型的提示以及模型生成的输出。但是,这个简单的聊天机器人存在一些重要的局限性。如果我们的用例需要用到模型未经训练的知识该怎么办?例如,假设想使用 AI 来询问有关公司的问题,但信息在私有 PDF 或其他类型的文档中。虽然……继续阅读 » Alan 6个月前 (06-06) 10984浏览 2评论1个赞
我们都体验过LLM 提示词的强大之处,也亲眼见证过不同的提示词技巧如何影响 LLM 的输出效果,在合理进行组合时效果更佳。构建优秀LLM 应用的挑战在于如何有效地构造发送给模型的提示词,并处理模型的预测结果以返回准确的输出(见图 1-1)。图 1-1. 让 LLM 成为应用程序得力助手的挑战如果能解决这个问题,那么无论是开发简单还是复杂的 LLM 应……继续阅读 » Alan 9个月前 (03-14) 4182浏览 2评论1个赞