全套解决方案：基于pytorch、transformers的中文NLP训练框架，支持大模型训练和文本生成，快速上手，海量训练数据！ 1.简介  目标：基于pytorch、transformers做中文领域的nlp开箱即用的训练框架，提供全套的训练、微调模型（包括大模型、文本转向量、文本生成、多模态等模型）的解决方案； 数据：  从开源社区，整理了海量的训练数据，帮助用户可以快速上手； 同时也开放训练数据模版，可以快速处理垂直领域数据； 结合多线程、内存映射等更高效的数据处理方式，即使需要处理百GB规模的数据，也是轻而易举；   流程：每一个项目有完整的模型训练步骤，如：数据清洗、数据处理、模型...

超越界限：大模型应用领域扩展，探索文本分类、文本匹配、信息抽取和性格测试等多领域应用 随着 ChatGPT 和 GPT-4 等强大生成模型出现，自然语言处理任务方式正在逐步发生改变。鉴于大模型强大的任务处理能力，未来我们或将不再为每一个具体任务去 finetune 一个模型，而是使用同一个大模型，对不同任务设计其独有的 prompt，以解决不同的任务问题。在该实验中，我们将基于清华开源大模型 ChatGLM-6B， 提供多个自然语言处理任务如何通过 prompt 来实现 zero-shot 的案例， 希望能够对你有所启发。 1. 环境安装 由于 ChatGLM 需要的环境和该项目中其他实验中的...

解锁ChatGLM-6B的潜力：优化大语言模型训练，突破任务困难与答案解析难题 LLM（Large Language Model）通常拥有大量的先验知识，使得其在许多自然语言处理任务上都有着不错的性能。 但，想要直接利用 LLM 完成一些任务会存在一些答案解析上的困难，如规范化输出格式，严格服从输入信息等。 因此，在这个项目下我们参考 ChatGLM-Tuning 的代码，尝试对大模型 ChatGLM-6B 进行 Finetune，使其能够更好的对齐我们所需要的输出格式。 1. 环境安装 由于 ChatGLM 需要的环境和该项目中其他实验中的环境有所不同，因此我们强烈建议您创建一个新的虚拟环境...

精进语言模型：探索LLM Training微调与奖励模型技术的新途径 LLMs Trainer 是一个旨在帮助人们从零开始训练大模型的仓库，该仓库最早参考自 Open-Llama，并在其基础上进行扩充。 有关 LLM 训练流程的更多细节可以参考 【LLM】从零开始训练大模型。 使用仓库之前，请先安装所有需要的依赖： pip install -r requirements.txt  1. 继续预训练（Continue Pretraining） 继续预训练是指，在一个已有的模型上继续进行预训练增强，通常用于 英文模型的中文增强 或是 领域数据增强。 我们这里以英文模型 OpenLlama 在中文数...

Prompt-“设计提示模板：用更少数据实现预训练模型的卓越表现，助力Few-Shot和Zero-Shot任务” 通过设计提示（prompt）模板，实现使用更少量的数据在预训练模型（Pretrained Model）上得到更好的效果，多用于：Few-Shot，Zero-Shot 等任务。 1.背景介绍 prompt 是当前 NLP 中研究小样本学习方向上非常重要的一个方向。举例来讲，今天如果有这样两句评论：   什么苹果啊，都没有苹果味，怪怪的味道，而且一点都不甜，超级难吃！ 这破笔记本速度太慢了，卡的不要不要的。   现在我们需要根据他们描述的商品类型进行一个分类任务， 即，第一句需要被分类...

GPT大语言模型引爆强化学习与语言生成模型的热潮、带你了解RLHF。  随着 ChatGPT 的爆火，强化学习（Reinforcement Learning）和语言生成模型（Language Model）的结合开始变得越来越受人关注。  在这个项目中，我们将通过开源项目 trl 搭建一个通过强化学习算法（PPO）来更新语言模型（GPT-2）的几个示例，包括：   基于中文情感识别模型的正向评论生成机器人（No Human Reward）   基于人工打分的正向评论生成机器人（With Human Reward）   基于排序序列（Rank List）训练一个奖励模型（Reward Model）...

深入探索智能未来：文本生成与问答模型的创新融合 1.Filling Model with T5 1.1背景介绍 该项目用于将句子中 [MASK] 位置通过生成模型还原，以实现 UIE 信息抽取中 Mask Then Filling 数据增强策略。 Mask Then Fill 是一种基于生成模型的信息抽取数据增强策略。对于一段文本，我们其分为「关键信息段」和「非关键信息段」，包含关键词片段称为「关键信息段」。下面例子中标粗的为 关键信息片段，其余的为 非关键片段。  大年三十 我从 北京 的大兴机场 飞回 了 成都。  我们随机 [MASK] 住一部分「非关键片段」，使其变为：  大年三十 我...

解锁数据潜力：信息抽取、数据增强与UIE的完美融合 1.信息抽取（Information Extraction） 1.1 IE简介 信息抽取是 NLP 任务中非常常见的一种任务，其目的在于从一段自然文本中提取出我们想要的关键信息结构。 举例来讲，现在有下面这样一个句子：  新东方烹饪学校在成都。  我们想要提取这句话中所有有意义的词语，例如： 机构新东方烹饪学校城市成都 这个关键词提取任务就叫做**命名实体识别（Named Entity Recognition, NER）**任务，文中的「新东方烹饪学校」和「成都」就被称为实体（Entity）。 如果我们还想进一步的知道这些词语之间的关系，例如...

NLP文本匹配任务Text Matching [无监督训练]：SimCSE、ESimCSE、DiffCSE 项目实践 文本匹配多用于计算两个文本之间的相似度，该示例会基于 ESimCSE 实现一个无监督的文本匹配模型的训练流程。文本匹配多用于计算两段「自然文本」之间的「相似度」。 例如，在搜索引擎中，我们通常需要判断用户的搜索内容是否相似： A:蛋黄吃多了有什么坏处 B:吃鸡蛋白过多有什么坏处 -> 不相似 A:蛋黄吃多了有什么坏处 B:蛋黄可以多吃吗 -> 相似 ...  那最直觉的思路就是让人工去标注文本对，再喂给模型去学习，这种方法称为基于「监督学习」训练出的模型： 但是，如...

NLP文本匹配任务Text Matching [有监督训练]：PointWise（单塔）、DSSM（双塔）、Sentence BERT（双塔）项目实践 0 背景介绍以及相关概念 本项目对3种常用的文本匹配的方法进行实现：PointWise（单塔）、DSSM（双塔）、Sentence BERT（双塔）。 文本匹配（Text Matching）是 NLP 下的一个分支，通常用于计算两个句子之间的相似程度，在推荐、推理等场景下都有着重要的作用。 举例来讲，今天我们有一堆评论数据，我们想要找到指定类别的评论数据，例如： 1. 为什么是开过的洗发水都流出来了，是用过的吗？是这样子包装的吗？ 2. 喜欢折...

ChatPaper全流程加速科研：论文阅读+润色+优缺点分析与改进建议+审稿回复    工具名称 工具作用 是否在线？ 在线预览 备注   ChatPaper 通过ChatGPT实现对论文进行总结，帮助科研人进行论文初筛 访问wangrongsheng/ChatPaper 使用 -- 原项目地址   ChatReviewer 利用ChatGPT对论文进行优缺点分析，提出改进建议 访问ShiwenNi/ChatReviewer 使用 -- 原项目地址   ChatImprovement 利用ChatGPT对论文初稿进行润色、翻译等 访问qingxu98/gpt-academic 使用 -- 原项...

基于中文金融知识的 LLaMA 系微调模型的智能问答系统：LLaMA大模型训练微调推理等详细教学 基于 LLaMA 系基模型经过中文金融知识指令精调/指令微调(Instruct-tuning) 的微调模型。通过中文金融公开问答数据+爬取的金融问答数据构建指令数据集，并在此基础上对 LLaMA 系模型进行了指令微调，提高了 LLaMA 在金融领域的问答效果。 基于已有数据和继续爬取的中文金融数据，将继续利用 GPT3.5/4.0 API 构建高质量的数据集，另在中文知识图谱-金融、CFLEB 金融数据集等数据上进一步扩充高质量指令数据集。   基于 Chinese-LLaMA 和中文金融数据进行...

ChatIE：通过多轮问答问题实现实命名实体识别和关系事件的零样本信息抽取，并在NYT11-HRL等数据集上超过了全监督模型 零样本信息抽取（Information Extraction，IE）旨在从无标注文本中建立IE系统，因为很少涉及人为干预，该问题非常具有挑战性。但零样本IE不再需要标注数据时耗费的时间和人力，因此十分重要。近来的大规模语言模型（例如GPT-3，Chat GPT）在零样本设置下取得了很好的表现，这启发我们探索基于提示的方法来解决零样本IE任务。我们提出一个问题：不经过训练来实现零样本信息抽取是否可行？我们将零样本IE任务转变为一个两阶段框架的多轮问答问题（Chat IE）...

MedicalGPT：基于LLaMA-13B的中英医疗问答模型（LoRA）、实现包括二次预训练、有监督微调、奖励建模、强化学习训练[LLM:含Ziya-LLaMA]。 **** 训练医疗大模型，实现包括二次预训练、有监督微调、奖励建模、强化学习训练。  分四阶段训练GPT模型，来自Andrej Karpathy的演讲PDF State of GPT，视频 Video   版本迭代   V1：发布中文医疗LoRA模型，基于Ziya-LLaMA-13B-v1模型，SFT微调了一版医疗模型，医疗问答效果有提升，发布微调后的LoRA权重，   V0：以医疗为例，训练领域大模型，实现了四阶段训练：包括二...