为了提升开发效率、规范项目结构，推荐使用 sponge 和 Kratos 两种 Go 生态下的脚手架工具。以下将详细介绍这两种工具的安装、使用方法及其在项目开发中的应用流程。此外，还将简要比较 Python 生态中的 pdm 和 poetry，并提供从开发到部署的完整流程示例
整合了社区广泛认可的 Project Layout、bilibili QCon 实践、Kratos/sponge 脚手架经验，以及对单体与微服务模式的多方位支持。整体分为8章。希望能帮助团队快速落地、持续迭代
Gradio 是一个强大的工具，可以帮助开发者快速搭建机器学习模型的用户界面，便于进行测试、演示以及获取反馈。无论你是研究人员、开发者，还是希望让自己的模型被更多人使用的爱好者，Gradio 都是一个值得考虑的选择。它允许开发者快速创建用户界面，让用户能够与模型进行交互，进行测试和展示。
Exo 是一个高性能的分布式推理引擎，旨在支持跨平台的模型推理与分布式计算。项目包含核心推理引擎、节点发现服务、拓扑管理与 API 接口，支持 MLX、TinyGrad 等多种推理后端。目录结构清晰，涵盖核心代码、示例应用、文档与测试模块，适用于高并发和大规模模型部署场景。
Exo 是一个基于 MLX 的分布式大语言模型推理框架，专为 Apple Silicon 芯片优化。它支持模型分层加载，提供类 ChatGPT API 接口，可通过简单的配置实现模型部署和调用。主要特点是支持流式输出，并针对有限内存环境下的大模型运行进行了优化。
Exo 是一款分布式AI集群解决方案，通过将大型AI模型拆分到多台设备上运行，突破单机限制，提升推理性能。它支持自动设备发现、智能任务分配、动态弹性扩展和故障恢复，提供与ChatGPT API兼容的接口，简化部署和集成流程，是一款高效、灵活的AI推理工具。
本实验展示了如何通过 LlamaIndex 构建一个基于 Qwen 模型的智能研究助手。该系统在多文档处理、动态工具选择和复杂推理方面表现出色，为研究者提供了高效的辅助工具。在未来的研究中，我们可以扩展文档集或优化工具选择策略，进一步提升系统的性能。
系统梳理了如何构建代理增强检索生成（RAG）系统，从简单的路由代理到工具调用，以及支持多文档推理的高级代理开发。介绍了索引构建、查询引擎配置、函数调用代理及多步骤推理的方法，能够实现复杂问题的自动化解决。通过结合多个工具与文档，掌握了如何构建强大的上下文增强研究系统，适用于多领域的高级应用。
