LangChain进阶之LLM
本文详细介绍了LangChain中的ModelI/O子组件——LLM，涵盖了LLM的基础概念、使用方法、案例实操，自定义LLM的实现，以及LLM的缓存策略和token使用跟踪。...
triton+tensorrt
本文介绍使用triton和tensorrt-llm后端部署LLM服务。先阐述TensorRT-LLM可优化加速LLMs推理性能，接着说明部署步骤，包括拉取镜像、模型转换等。还介绍tritonserve...
AIDE ML — 机器学习工程代理
AIDE ML是一个由大语言模型驱动的开源机器学习工程代理，能够自主编写、评估和优化代码。它采用树搜索算法进行迭代式代码探索，支持自然语言任务输入，并提供可视化工具与多种部署方式，适用于研究人员和从业...