langchain llm

LLM

ChatGLM-6B https://github.com/THUDM/ChatGLM-6B 支持在单张 2080Ti 上进行推理使用。 在 1:1 比例的中英语料上训练了 1T 的 token 量 ChatGLM-6B 序列长度达 2048 fine-tune 需要Deepspeed 训练需要显存 ......
LLM

Databricks 开源 LLM

导读 大数据分析公司 Databricks Inc 近日也加入了生成式 AI 领域的竞争之中,发布了一个名为 Dolly 的开源大型语言模型,将模型命名为 Dolly 是为了向第一只克隆羊多莉致敬。 像 ChatGPT 和 Bard 这样的生成式 AI,它们使用的数据通常来自于在成千上万不同网站,使 ......
Databricks LLM

LangChain与SQL链

LangChain 库有多个 SQL 链,甚至还有一个 SQL 代理,本文旨在尽可能轻松地与存储在 SQL 中的数据进行交互。以下是一些相关链接: Python SQL Chains Python SQL Agents Javascript SQL Chains Javascript SQL Age ......
LangChain SQL

Langchain框架 prompt injection注入

Langchain框架 prompt injection注入 Prompt Injection 是一种攻击技术,黑客或恶意攻击者操纵 AI 模型的输入值,以诱导模型返回非预期的结果 Langchain框架 LangChain 是一个基于大语言模型进行应用开发的框架。 所谓大语言模型(Large La ......
Langchain injection 框架 prompt

开源大模型(large language model, LLM)介绍

作为如今LLM圈内绝对的领头羊,OpenAI并没有遵从其创立初衷,无论是ChatGPT早期所使用的的GPT3、GPT3.5还是此后推出的GPT4模型,OpenAI都因“暂无法保证其不被滥用”为由拒绝了对模型开源,开启了订阅付费模式。 对于大型科技企业而言,不管是出于秀肌肉还是出于商业竞争目的,自研L ......
language 模型 large model LLM

LLM(大语言模型)解码时是怎么生成文本的?

Part1配置及参数 transformers==4.28.1 源码地址:transformers/configuration_utils.py at v4.28.1 · huggingface/transformers (github.com) 文档地址:Generation (huggingfa ......
模型 文本 语言 LLM

如何理解人工智能领域 LLM 的 No notion of time or chronological order 这一局限性?

在人工智能领域,LLM代表“大型语言模型”。当一个LLM处理一段文本时,它通常只考虑当前的句子,而不考虑整个上下文中的时间或时间顺序。 这种局限性意味着LLM无法处理一些需要考虑时间或时间顺序的任务。例如,如果一个LLM被用来预测天气,它可能无法考虑先前的天气预报,这会影响其预测准确性。同样,在一些 ......

怎么裁剪LLM(大语言模型)的vocab(词表)?

怎么裁剪LLM(大语言模型)的vocab(词表)? Part1前言 对于一些多语言的大语言模型而言,它的词表往往很大。在下游使用这些模型的时候,可能我们不需要其它的一些语言,例如只需要中文和英文,此时,我们可以对其vocab进行裁剪,既可以大大减少参数量,也能够保留模型的性能,接下来以Bloom模型 ......
词表 模型 语言 vocab LLM

LangChain vs Semantic Kernel

每当向他人介绍 Semantic Kernel, 会得到的第一个问题就是 Semantic Kernel 类似于LangChain吗,或者是c# 版本的LangChain吗? 为了全面而不想重复的回答这个问题,因此我写下这篇文章。在 ChatGPT 之前,构建 集成AI的应用程序的主要分为两个步骤: ......
LangChain Semantic Kernel vs

使用LLM的问题

当前大模型的低成本实现方案: 语言模型 + 指令微调数据 + 微调加速 llama + alpaca_data(Fine-tuning) + lora 语言模型: ... 指令微调数据: 在一组通过指示描述的数据集上对语言模型微调,大大提高了在未见过任务上的 Zero-Shot 能力。 通过对多种任 ......
问题 LLM

Semantic Kernel 入门系列:🪄LLM的魔法

ChatGPT 只是LLM 的小试牛刀,让人类能够看到的是机器智能对于语言系统的理解和掌握。 如果只是用来闲聊,而且只不过是将OpenAI的接口封装一下,那么市面上所有的ChatGPT的换皮应用都差不多。这就像是买了个徕卡镜头的手机,却只用来扫二维码一样。 由于微软的财大气粗,在OpenAI取得进展 ......
Semantic Kernel 129668 魔法 LLM

Semantic Kernel 入门系列:🛸LLM降临的时代

不论你是否关心,不可否认,AGI的时代即将到来了。 在这个突如其来的时代中,OpenAI的ChatGPT无疑处于浪潮之巅。而在ChatGPT背后,我们不能忽视的是LLM(Large Language Model)大型语言模型。 一夜之间所有的大厂商都在搞LLM,虽然很难有谁能和OpenAI相匹敌,但 ......
Semantic 时代 Kernel 128760 LLM

Schillace法则:使用LLM创建软件的最佳实践

LLM(大语言模型)的发展正在改变软件开发的方式。 以前,开发人员需要编写大量的代码来实现其意图,但现在,随着语言模型的发展,开发人员可以使用自然语言来表达他们的意图,而无需编写大量的代码。这使得软件开发更加高效和灵活,同时也降低了开发人员的工作量。LLM的发展将极大地改变软件开发的方式,使软件开发 ......
法则 Schillace 软件 LLM

微软开源了一个 助力开发LLM 加持的应用的 工具包 semantic-kernel

在首席执行官萨蒂亚·纳德拉(Satya Nadella)的支持下,微软似乎正在迅速转变为一家以人工智能为中心的公司。最近微软的众多产品线都采用GPT-4加持,从Microsoft 365等商业产品到“新必应”搜索引擎,再到低代码/无代码Power Platform等面向开发的产品,包括软件开发组件P ......
共254篇  :9/9页 首页上一页9下一页尾页