LangChain解决复杂问题测评 专业领域复杂问题方案测试本文选取了3种业界主流方案,对LangChain执行复杂问题进行了深度的分析。 方案1:LangChain + ChatGPT + 工具使用LangChain作为链条,ChatGPT作为大语言模型,连接人类问题和大语言模型,指导大语言模型使用工具对专业领域知识查询后回答。 方案2:LangChain + ChatGPT + 检索相比于方案1,不使用工具,直接根据问题进行 2023-06-30
langchain计划和执行复杂任务思考 关于LangChain中计划者和执行者的流程思考1.计划者和执行者LangChain官方目前代码版本是v0.0.201, 测试的是0.0.200版本, Agent的角色类型分为2种,1种是计划者,对任务进行分成多个step,计划者这里是用的LLM,另一个是执行者,负责按step逐步执行。下面用官方示例代码进行讲解: 2.参考官方示例代码:123456789101112131415161718192 2023-06-20
langchain问答和路由测试 基于APIChain和RouterChain打造的问答 首先准备好APIChain所需的api调用,我们构造2个Datatouch的api接口,使用GET的请求方式,每个接口支持多个参数。 制定好回答某类问题的标准流程SOP。 解答思路, 用户提问–RouterChain–APIChain或DefaultChain–答案LLM 代码功能实现核心代码:路由Chain的实现 1234567891 2023-06-15
LangChain解决问题的思路 LangChain解决问题的思路可以把解决问题当做一个过程,我们可以从不同的角度去观察解决问题的方式,主要分成按数据源,按问题复杂度,按问题的解决方式划分,只是概念上的不同,其实最终解决问题的方式是灵活的,统一的。 按数据源:非结构化数据–方式1(向量化)Step1:源文档向量化 Step2: 问答时检索相似向量作为context 其它方式: KNN聚类,Time Weighted Ve 2023-06-15
几种模型回答同一问题的对比 9款模型对比模型vicuna7B,13B, glm6B, Chinese Lamma7B,13B,chatgpt,gpt4,rwkv,基于Bloom的Bellegradio写了一个简单的测试接口 问题: 防晒霜的使用顺序? 1.清华大学glm6B模型 2.斯坦福大学的vicuna7B模型 3.斯坦福大学的vicuna13B模型 4.哈工大的lamma 7B 5.哈工大的lamm 2023-06-15
langchain-tools-example LangChain使用tools的示例测试代码如下,一个fib函数和一个查看discord的函数封装成工具,方便LLM使用,流程如下: 用户提问,给出所有可用工具,调用LLM 调用合适的工具和输入 返回工具的结果 根据工具的结果调用LLM产生最终答案优缺点: 工具很灵活,适合封装,缺点,LLM对根据描述能正常筛选工具,但是目前langchain的官方只支持1个参数的工具,如果工具需要的参数如果较 2023-06-14
langchain-APIChain 使用LangChain的APIChain调用天气接口的API查询天气的示例思路:使用自己封装的LLM接口,确保最大长度不要太长,设定API的提示模板格式,防止太长时对prompt截断的时候只保留关键信息。一共调用2次LLM模型,第一次根据问题,生成API的请求,然后调用API获取结果,第二次根据API的结果和问题,生成最终的答案。代码: 123456789101112131415161718192 2023-06-13
gpt数据标注小知识 prompt,instruction, input, context, question,output,completion,history的区分instruction: 指令,这里是要求模型做的事情。基本上等价于question。input: 这里等价于context,就是上下文,例如根据下面的段落进行回答问题,这里的段落就是contextprompt: 就是提示,可以认为instruction 2023-06-05
什么是思维链和思维树 思维链和思维树 普通模式:IO,input-output Prompting, 和LM进行交互,单次输入和输出的提示 思维链:CoT,Chain of Thought,指的是一个人思考问题时,从一个思想或概念出发,逐步发展、拓展和衍生出新的思想和概念的过程。这个过程类似于一个链条,每个新的思想都是前一个思想的延伸和扩展,构成了一条连续的思维链。思维链提示,输入被经过多次的中间提示,最终达到输出 2023-05-31
langchain-tools 获取所有的agent支持的tools名称1234567import jsonimport langchainfrom langchain.agents import get_all_tool_namestools = get_all_tool_names()print(f"langchain的版本是{langchain.__version__}")print 2023-05-30 langchain