构筑大语言模型应用：应用开发与架构设计
2023 年的上半年里，我（@phodal）和 Thoughtworks 的同事们（如：@tianweiliu、@teobler、@mutoe 等）、 开源社区的同伴们（如： 卷王@CGQAQ、@genffy、 @liruifengv 等) 一起，创建了一系列的流行的或者不流行的开源项目。它们涉及了：
- LLM 能力的充分运用
- Prompt 编写：Prompt 学习与编写模式
- Prompt 管理：Prompt 即代码
- LLM 下的软件开发工序及应用架构设计
- 新的交互设计：Chat模式
- 大模型友好的工序：基于 AI 2.0 （ChatGPT + Copilot）如何去设计软件开发流程
- LLM 应用架构的设计与落地：Unit Mesh
- 面向特定场景的 LLM 应用
- 基于开源模型构建自己的模型：特定场景的模型微调 + LLMOps
- 上下文工程（prompt 工程）：LLM 应用的核心
围绕于上述的一系列内容，我们也在思考软件开发能给我们带来了什么。所以，我重新整理了过去半年的一些思考、文章，重新编写了这本开源电子书，希望能够帮助到大家。
关注我的微信公众号（搜索 phodal-weixin），获得更多及时的更新：
加入微信群一起讨论
（如果微信群已满，请添加: phodal02 为好友，并注明：AIGC）
我们发起的相关开源项目如下（包括但是不限于）：
| 名称 | 描述 | 类型 | Stars |
|---|---|---|---|
| 理解 Prompt | 基于编程、绘画、写作的 AI 探索与总结。 | 文档 |  |
| Prompt 编写模式 | 如何将思维框架赋予机器，以设计模式的形式来思考 prompt。 | 文档 |  |
| ClickPrompt | 用于一键轻松查看、分享和执行您的 Prompt。 | 应用 |  |
| ChatVisualNovel | 基于 ChatGPT 的定制化视觉小说引擎 | 应用 |  |
| ChatFlow | 打造个性化 ChatGPT 流程，构建自动化之路。 | 框架 |  |
| Unit Mesh | 基于 AI 为核心的软件 2.0 思想的软件架构。 | 架构 |  |
| Unit Minions | AI 研发提效研究：自己动手训练 LoRA | 微调教程、指南、数据集 |  |
| Unit Runtime | 一个 ChatGPT 等 AI 代码的运行环境，可一键启动并实时交互，帮助您快速构建和测试 AI 代码。 | 基础设施 |  |
| DevTi | 基于 LLM 的微调来提供全面智能化解决方案，助力开发人员高效完成开发任务，以实现自动化用户任务拆解、用户故事生成、自动化代码生成、自动化测试生成等等。 | 微调代码 |  |
| AutoDev | 一款 Intellij IDEA 的 LLM/AI 辅助编程插件。AutoDev 能够与您的需求管理系统（例如 Jira、Trello、Github Issue 等）直接对接。 | IDEA 插件 |  |
| ArchGuard Co-mate | 基于人工智能技术的架构副驾驶、设计和治理工具 | 架构协同应用 |  |
我们在 QCon 上的演讲：演讲：探索软件开发新工序：LLM 赋能研发效能提升
LLM（如 ChatGPT + GitHub Copilot）作为一种创新的工具组合，为我们带来了全新的机遇。它能够帮助业务人员和开发者在需求、架构、编码、测试等环节提高效率和质量，实现从设计到验证的端到端流程。在本次分享中，我将向大家介绍 LLM 在研发效能方面的应用场景和实践案例，展示它是如何在各个环节中发挥作用的。同时，我们还将分享如何构建私有化的 LLM 工程化方式，使其更好地适应组织的需求。欢迎对 LLM + 研发效能感兴趣的朋友们参加本次分享，与我们一起探讨研发效能的未来。
我们在 Bilibili 上的大语言模型微调相关的视频：
- LLaMA 系列在线视频： 《代码辅助生成》 、《测试代码生成》 、《详细需求生成》 、《文本转 SQL》
- ChatGLM 系列在线视频： 《LoRA 大比拼：ChatGLM vs LLaMA，谁更会写需求文档？》
欢迎大家一起来参与我们的开源项目，一起来探索 LLM + 软件开发的未来。