企业官网建设流程全解析

开网站做女装好还是童装好,购买域名网站,wordpress主题模板,仙桃做网站找谁大模型#xff08;Large Language Model#xff0c;LLM#xff09;的浪潮已经席卷了几乎各行业#xff0c;但当涉及到专业场景或行业细分领域时#xff0c;通用大模型往往面临专业知识不足的问题。相对于成本昂贵的“Post-Training”或“Supervised Fine-Tuning”#xf…大模型Large Language ModelLLM的浪潮已经席卷了几乎各行业但当涉及到专业场景或行业细分领域时通用大模型往往面临专业知识不足的问题。相对于成本昂贵的“Post-Training”或“Supervised Fine-Tuning”监督微调SFT基于RAG的技术方案成为了一种更优选择。本文笔者将从RAG所解决的问题及模拟场景入手详细总结相关技术细节与大家分享~初识RAG所解决的问题及模拟场景大模型“幻觉”问题在探讨RAG技术的必要性之前我们首先需要理解大模型中有名的“幻觉”问题。所谓“幻觉”是指大模型在试图生成内容或回答问题时输出的结果并不完全正确甚至会有错误即通常所说的“一本正经地胡说八道”。因此「这种“幻觉”可以提现在对事实的错误陈述与编造、错误的复杂推理或在复杂语境下处理能力不足等。」而产生这种“幻觉”的主要原因是「训练知识存在偏差」在训练大模型时输入的海量知识可能包含错误、过时甚至带有偏见的信息。这些信息在被大模型学习后就可能在未来的输出中被重现。「过度泛化地推理」大模型尝试通过大量的语料来学习人类语言的普遍规律与模式这可能导致“过度泛化”的现象即把普通的模式推理用到某些特定场景就会产生不准确的输出。「理解存在局限性」大模型并没有真正“理解”训练知识的深层含义也不具备人类普遍的常识与经验因此可能会在一些需要深入理解与复杂推理的任务中出错。「缺乏特定领域的知识」通用大模型虽然掌握了大量人类通用知识且具备超强的记忆与推理能力但可能不是某个垂直领域的专家比如医学或者法律专家。当面临一些复杂度较高的领域性问题或私有知识相关的问题时比如介绍企业的某个新产品它就可能会编造信息并将其输出。除了“幻觉”问题大模型还可能存在知识落后、输出难以解释、输出不确定等问题。这也决定了大模型在大规模商业生产应用中面临着挑战很多时候我们不仅需要大模型具备理解力和创造力还需要极高的准确性。例如在金融风险评估、医疗诊断、法律咨询等领域任何错误的输出都可能导致严重的后果。因此解决“幻觉”问题是提升大模型实际应用价值的关键。RAG如何解决“幻觉”问题RAGRetrieval-Augmented Generation检索增强生成技术正是为了尽可能解决大模型在实际应用中面临的一些问题特别是“幻觉”问题而诞生的。其基本思想可以简单表述如下将传统的生成式大模型与实时信息检索技术相结合为大模型补充来自外部的相关数据与上下文以帮助大模型生成更丰富、更准确、更可靠的内容。这允许大模型在生成内容时可以依赖实时与个性化的数据与知识而不只是依赖训练知识。换句话说RAG给大模型增加了一个可以快速查找的知识外挂使得它在面对特定问题时能够参考最新的、权威的信息源从而减少错误输出和“幻觉”的发生。为了更进一步帮助我们理解RAG的概念举个例子。如果把大模型比喻成一个经过大量医学知识与治疗技能训练的优秀学生大模型响应的过程比喻成一场医学考试那么这个学生在考试时仍然可能会对某些最新的治疗方法并不熟悉他可能会根据自己的记忆和推理能力编造答案即“幻觉”导致错误。 而RAG会从最新的医学文献中检索相关信息并提供给学生作为参考。这样学生就可以基于最新的专业知识来回答问题避免了“幻觉”提高了答题的准确性和可靠性。模拟简单的RAG场景假如你需要开发一个在线的自助产品咨询工具允许客户使用自然语言进行交互式的产品问答比如“请介绍一下您公司这款产品与××产品的不同之处”。为了让客户有更好的体验你决定使用大模型来构造这样的咨询功能并将其嵌入公司的官方网站。如果你直接使用通用大模型那么结果很可能如下所示。「用户提问」❝请介绍小麦公司的最新手机产品小麦Pro与iPhone有什么区别[引用]❞不出意外大模型显然不具备贵公司的最新手机产品知识因此无法回答客户的问题有时候可能会尝试编造答案。现在如果你使用RAG的思想那么可以先从企业私有的知识库中**「检索出下面一段相关的补充知识」**❝小麦Pro手机参数简览系统安卓最新版本处理器高性能八核处理器显示屏6.7英寸AMOLED全面屏2K分辨率后置摄像头主摄像头6400万像素四摄系统前置摄像头3200万像素AI美颜、HDR功能内存与存储最高可选12GB运行内存最高512GB存储空间电池5000mAh大容量电池支持快速充电网络支持5G网络Wi-Fi6蓝牙5.2其他特性IP68防水防尘面部识别和指纹识别解锁 小麦Pro以其强大的性能、清晰的显示效果、出色的摄像能力以及长久续航等特点为用户提供优质的手机体验。❞你再把检索出的补充知识组装到提示词中将其输入大模型并要求大模型基于提供的知识来回答你的问题。大模型很聪明地“吸收”了补充的外部知识并结合自己已经掌握的知识成功推理并给出了答案「RAG增强后的回答」❝小麦Pro手机与iPhone12之间的主要区别可以从以下几个方面来比较操作系统小麦Pro采用安卓最新版本作为操作系统而iPhone12运行的是苹果自家的iOS操作系统。这意味着两者的用户界面、应用生态系统、功能和定制性可能会有所不同。 处理器性能小麦Pro配备了一款高性能的八核处理器而iPhone12搭载了苹果自家设计的A14仿生芯片。尽管具体的性能表现可能需要进行实际测试来比较但两者都应该能够提供流畅的用户体验。 显示屏小麦Pro采用了6.7英寸的AMOLED全面屏分辨率达到了2K级别而iPhone12则配备了6.1英寸的屏幕。 其他特性小麦Pro拥有更大的电池容量5000mAh支持更快的充电速度并且具备更高的防水防尘等级IP68。❞RAG基础概念什么是RAG?**「RAGRetrieval-Augmented Generation检索增强生成」**是一种结合了检索和生成技术的自然语言处理(NLP)模型。该模型由Facebook AI提出旨在提升生成式模型在处理开放域问答、对话生成等任务中的性能。RAG模型通过引入外部知识库利用检索模块Retriever从大量文档中提取相关信息并将这些信息传递给生成模块Generator从而生成更加准确和有用的回答或文本。其核心思想是通过检索和生成的有机结合弥补生成模型如GPT-3、BERT等在处理知识密集型任务时的不足。在传统的LLM大语言模型应用中模型仅依赖训练时学到的知识来回答问题这导致了知识更新困难、回答可能过时或不准确等问题。而RAG系统通过在生成回答前主动检索相关信息将实时、准确的知识作为上下文提供给模型从而显著提升了回答的质量和可靠性。RAG本质上是一种借助“外挂”的提示工程但绝不仅限于此。它不仅仅是简单地将外部知识拼接到提示词中而是通过一系列优化手段确保大模型能够更好地理解和利用这些外部知识从而提高输出答案的质量。RAG架构RAG模型的技术架构可以分为两个主要模块检索模块Retriever和生成模块Generator。「检索模块」负责从大规模的知识库或文档集合中使用预训练的双塔模型dual-encoder进行高效的向量化检索快速找到与查询最相关的若干个文档或段落。「生成模块」根据检索到的文档和输入查询生成最终的回答或文本。并使用强大的生成模型如T5、BART等对输入进行处理确保生成的内容连贯、准确且信息丰富。RAG工作流程通过结合检索增强技术将用户查询与外部知识库中的信息融合利用大语言模型生成准确、可靠的回答。以下是RAG的完整工作流程知识准备收集知识文档从企业内部文档、公开数据集、专业数据库等来源收集相关知识文档。预处理对文档进行清洗、去重、分段等操作确保数据质量。索引化将处理后的文档分割为适合检索的单元如段落或句子并建立索引以便快速查找。嵌入与索引使用嵌入模型利用预训练的嵌入模型如BERT、Sentence-BERT等将文本转换为高维向量表示。存储向量将生成的向量存储在向量数据库如FAISS、Elasticsearch、Pinecone等中构建高效的索引结构。查询检索用户查询向量化将用户的自然语言查询通过嵌入模型转换为向量表示。相似度计算在向量数据库中计算查询向量与存储向量之间的相似度通常使用余弦相似度或欧氏距离。检索结果排序根据相似度得分选择若干个最相关的文档或段落作为检索结果。提示增强组装提示词将检索到的相关文档内容与原始用户查询组合成一个新的输入序列。优化提示模板根据任务需求设计提示模板确保生成模块能够充分利用检索到的信息。例如❝用户查询请介绍小麦Pro手机与iPhone的区别。 检索结果小麦Pro采用安卓系统配备高性能八核处理器6.7英寸AMOLED屏幕5000mAh电池。 增强提示基于以下信息回答问题“小麦Pro采用安卓系统配备高性能八核处理器6.7英寸AMOLED屏幕5000mAh电池。”❞生成回答输入增强提示将增强提示模板输入生成模块如T5、BART、GPT等。生成文本生成模块根据提示模板生成最终的回答综合考虑检索到的知识和自身的训练知识。后处理对生成的回答进行格式调整、语法检查等后处理确保输出的质量和一致性。读者福利如果大家对大模型感兴趣这套大模型学习资料一定对你有用对于0基础小白入门如果你是零基础小白想快速入门大模型是可以考虑的。一方面是学习时间相对较短学习内容更全面更集中。二方面是可以根据这些资料规划好学习计划和方向。作为一名老互联网人看着AI越来越火也总想为大家做点啥。干脆把我这几年整理的AI大模型干货全拿出来了。包括入门指南、学习路径图、精选书籍、视频课还有我录的一些实战讲解。全部免费不搞虚的。学习从来都是自己的事我能做的就是帮你把路铺平一点。资料都放在下面了有需要的直接拿能用到多少就看你自己了。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以点击文章最下方的VX名片免费领取【保真100%】AI大模型学习路线汇总AI大模型时代的学习之旅从基础到前沿掌握人工智能的核心技能全套教程文末领取哈大模型实战案例光学理论是没用的要学会跟着一起做要动手实操才能将自己的所学运用到实际当中去这时候可以搞点实战案例来学习。大模型视频和PDF合集观看零基础学习书籍和视频看书籍和视频学习是最快捷也是最有效果的方式跟着视频中老师的思路从基础到深入还是很容易入门的。640套AI大模型报告合集这套包含640份报告的合集涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者这套报告合集都将为您提供宝贵的信息和启示。学会后的收获• 基于大模型全栈工程实现前端、后端、产品经理、设计、数据分析等通过这门课可获得不同能力• 能够利用大模型解决相关实际项目需求大数据时代越来越多的企业和机构需要处理海量数据利用大模型技术可以更好地处理这些数据提高数据分析和决策的准确性。因此掌握大模型应用开发技能可以让程序员更好地应对实际项目需求• 基于大模型和企业数据AI应用开发实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能学会Fine-tuning垂直训练大模型数据准备、数据蒸馏、大模型部署一站式掌握• 能够完成时下热门大模型垂直领域模型训练能力提高程序员的编码能力大模型应用开发需要掌握机器学习算法、深度学习框架等技术这些技术的掌握可以提高程序员的编码能力和分析能力让程序员更加熟练地编写高质量的代码。获取方式有需要的小伙伴可以点击文章最下方的微信名片添加免费领取【保证100%免费】