LLM技术

admin1周前 (03-29)17
本文介绍了大模型(LLM)技术的基础知识、关键技术背景和发展趋势。覆盖了从LLM的定义、核心架构到训练平台的选择等内容,并探讨了LLM在自然语言处理领域的应用,包括文本生成、问答系统和对话生成等。此外...

【LLM】认识LLM

admin1周前 (03-29)15
本文概述了大语言模型LLM的发展历程,重点介绍了RAG(检索增强生成)的工作原理、与Finetune的对比以及在实际应用中的优势和局限。同时,通过LangChain框架展示了如何将LLM与外部数据结合...

LangChain进阶之LLM

admin1周前 (03-29)18
本文详细介绍了LangChain中的ModelI/O子组件——LLM,涵盖了LLM的基础概念、使用方法、案例实操,自定义LLM的实现,以及LLM的缓存策略和token使用跟踪。...

triton+tensorrt

admin1周前 (03-29)15
本文介绍使用triton和tensorrt-llm后端部署LLM服务。先阐述TensorRT-LLM可优化加速LLMs推理性能,接着说明部署步骤,包括拉取镜像、模型转换等。还介绍tritonserve...

AIDE ML — 机器学习工程代理

admin2周前 (03-27)14
AIDE ML是一个由大语言模型驱动的开源机器学习工程代理,能够自主编写、评估和优化代码。它采用树搜索算法进行迭代式代码探索,支持自然语言任务输入,并提供可视化工具与多种部署方式,适用于研究人员和从业...

什么是LLM?看这一篇就够了!

admin2周前 (03-23)27
本文介绍了大语言模型(LLM)的基本概念、应用场景及其局限性,并推荐了若干LLM产品及模型,探讨了提示词工程、微调等技术手段,以及LLM在多模态、RAG、Agent等方面的发展。...