LoRA是一种用于大语言模型高效微调的技术，它通过向模型注入少量可训练的参数（适配器），来学习特定任务或领域知识，而无需重新训练整个庞大的模型。

ONNX是一种开放的模型格式标准，旨在解决不同AI框架（如PyTorch、TensorFlow）训练出的模型难以互通的难题。它像一个“通用翻译官”，能将模型转换为一种中间表示，从而可以在多种硬件和软件环境中高效运行，极大地简化了模型的部署和迁移流程。

TensorRT是英伟达推出的高性能深度学习推理优化器和运行时库。它专门针对NVIDIA GPU进行优化，能将训练好的神经网络模型进行压缩、加速，显著提升模型在部署阶段的推理速度和效率，是AI应用落地的关键工具。

CUDA是NVIDIA推出的并行计算平台和编程模型，它允许开发者使用C++等语言直接利用GPU的数千个核心进行通用计算，极大加速了科学计算、深度学习等数据密集型任务。

JAX是谷歌开发的一个用于高性能数值计算和机器学习的Python库。它结合了NumPy熟悉的API、函数式编程思想、自动微分（Autograd）以及XLA编译器，能够将Python和NumPy代码高效地编译并运行在CPU、GPU和TPU上。其核心目标是让研究人员能够以灵活、可组合的方式，轻松编写复杂模型并实现极致的计算性能。

TensorFlow是谷歌大脑团队开发的开源机器学习框架，以其灵活的计算图模型和强大的生态系统，成为深度学习研究和应用开发的核心工具之一。它支持从移动设备到大规模集群的跨平台部署，极大地推动了AI技术的普及和落地。

PyTorch是一个开源的Python机器学习库，以其直观的动态计算图和强大的GPU加速能力，成为AI研究和开发领域的主流框架之一。

Chroma是一个开源的嵌入向量数据库，专为简化AI应用（尤其是大语言模型应用）的构建而设计。它核心功能是存储、检索和比较由文本、图像等数据转换成的“向量”，让AI能够快速找到语义上最相关的内容，从而记住“上下文”或“知识”，是实现RAG等高级AI应用的关键基础设施。

Milvus 是一款开源的向量数据库，专门设计用于高效存储、索引和管理由AI模型（如大语言模型、图像模型）生成的向量数据，是实现语义搜索、推荐系统、AI应用记忆等高级功能的核心基础设施。

FAISS是Meta（原Facebook）开源的一个用于高效相似性搜索和密集向量聚类的库。它专门为处理海量高维向量数据而设计，能帮助大模型应用快速找到与查询最匹配的向量，是实现智能问答、推荐系统、图像搜索等功能的底层关键技术。