Awesome

构筑大语言模型应用：应用开发与架构设计

aka. Unlocking the Potential of Large Language Models: Real-World Use Cases

2023 年的上半年里，我（@phodal）和 Thoughtworks 的同事们（如：@tianweiliu、@teobler、@mutoe 等）、 开源社区的同伴们（如： 卷王@CGQAQ、@genffy、 @liruifengv 等) 一起，创建了一系列的流行的或者不流行的开源项目。它们涉及了：

• LLM 能力的充分运用
  • Prompt 编写：Prompt 学习与编写模式
  • Prompt 管理：Prompt 即代码
• LLM 下的软件开发工序及应用架构设计
  • 新的交互设计：Chat 模式
  • 大模型友好的工序：基于 AI 2.0 （ChatGPT + Copilot）如何去设计软件开发流程
  • LLM 应用架构的设计与落地：Unit Mesh
• 面向特定场景的 LLM 应用
  • 基于开源模型构建自己的模型：特定场景的模型微调 + LLMOps
  • 上下文工程（prompt 工程）：LLM 应用的核心

围绕于上述的一系列内容，我们也在思考软件开发能给我们带来了什么。所以，我重新整理了过去半年的一些思考、文章，重新编写了这本开源电子书，希望能够帮助到大家。

关注我的微信公众号（搜索 phodal-weixin），获得更多及时的更新：

我们发起的相关开源项目如下（包括但是不限于）：

名称	描述	类型	Stars
理解 Prompt	基于编程、绘画、写作的 AI 探索与总结。	文档
Prompt 编写模式	如何将思维框架赋予机器，以设计模式的形式来思考 prompt。	文档
ClickPrompt	用于一键轻松查看、分享和执行您的 Prompt。	应用
ChatVisualNovel	基于 ChatGPT 的定制化视觉小说引擎	应用
ChatFlow	打造个性化 ChatGPT 流程，构建自动化之路。	框架
Unit Mesh	基于 AI 为核心的软件 2.0 思想的软件架构。	架构
Unit Minions	AI 研发提效研究：自己动手训练 LoRA	微调教程、指南、数据集
Unit Runtime	一个 ChatGPT 等 AI 代码的运行环境，可一键启动并实时交互，帮助您快速构建和测试 AI 代码。	基础设施
DevTi	基于 LLM 的微调来提供全面智能化解决方案，助力开发人员高效完成开发任务，以实现自动化用户任务拆解、用户故事生成、自动化代码生成、自动化测试生成等等。	微调代码
AutoDev	一款 Intellij IDEA 的 LLM/AI 辅助编程插件。AutoDev 能够与您的需求管理系统（例如 Jira、Trello、Github Issue 等）直接对接。	IDEA 插件
ArchGuard Co-mate	基于人工智能技术的架构副驾驶、设计和治理工具	架构协同应用

我们在 QCon 上的演讲：演讲：探索软件开发新工序：LLM 赋能研发效能提升

LLM（如 ChatGPT + GitHub Copilot）作为一种创新的工具组合，为我们带来了全新的机遇。它能够帮助业务人员和开发者在需求、架构、编码、测试等环节提高效率和质量，实现从设计到验证的端到端流程。在本次分享中，我将向大家介绍 LLM 在研发效能方面的应用场景和实践案例，展示它是如何在各个环节中发挥作用的。同时，我们还将分享如何构建私有化的 LLM 工程化方式，使其更好地适应组织的需求。欢迎对 LLM + 研发效能感兴趣的朋友们参加本次分享，与我们一起探讨研发效能的未来。

我们在 Bilibili 上的大语言模型微调相关的视频：

• LLaMA 系列在线视频： 《代码辅助生成》 、《测试代码生成》 、《详细需求生成》 、《文本转 SQL》
• ChatGLM 系列在线视频： 《LoRA 大比拼：ChatGLM vs LLaMA，谁更会写需求文档？》

欢迎大家一起来参与我们的开源项目，一起来探索 LLM + 软件开发的未来。