Skip to content

Commit

Permalink
refactor(scenario-legacy-transform): 优化遗留基础设施改造章节结构
Browse files Browse the repository at this point in the history
重构了“遗留基础设施改造”章节,添加了Ebay的案例研究,展示了如何使用定制化的LLM简化软件维护工作。同时,对Amazon遗留基础设施改造的部分进行了内容补充,以增强章节的完整性和实用性。
  • Loading branch information
phodal committed Aug 3, 2024
1 parent 4d1c231 commit 48c8696
Showing 1 changed file with 22 additions and 1 deletion.
23 changes: 22 additions & 1 deletion src/scenario-legacy-transform.md
Original file line number Diff line number Diff line change
@@ -1,6 +1,27 @@
# AI 辅助软件工程:系统迁移

### 遗留基础设施改造
## 示例

### Ebay:定期维护和升级基础设施

[Cutting Through the Noise: Three Things We've Learned About Generative AI and Developer Productivity](https://innovation.ebayinc.com/tech/features/cutting-through-the-noise-three-things-weve-learned-about-generative-ai-and-developer-productivity/)

现有的开源大型语言模型有时会达到生产力的上限;毕竟,从一个不包含我们内部数据的模型中,我们能学到的东西是有限的。因此,第二条路径是使用我们组织预处理后的数据对开源的LLMs进行后期训练和微调。

在这个练习中,我们使用了Code Llama 13B作为基础LLM,不过如果有需要,也可以轻松替换成其他模型。为了看看后期训练和微调的现有
LLM 效果如何,
我们创建了一个我们称之为eBayCoder的模型:这是一个基于eBay代码库和相关文档训练的Code Llama。

那么效果如何呢?我们发现,eBayCoder能够显著简化一些之前劳动密集型且耗时的任务。例如,软件维护在所有技术组织中都至关重要。和其他大型公司一样,eBay
也有自己基于开源软件构建的基础库和框架,覆盖服务器、消息队列、批处理作业、iOS和Android等。这些系统需要定期升级,
以改进开发人员的工作体验并解决安全漏洞(例如升级到最新的Spring或Spring Boot版本)。这种工作量视当前应用栈的版本而定,有时甚至会非常庞大。
即使使用eBay现有的迁移工具,我们仍需投入大量工程资源进行软件维护。而这是我们认为微调后的LLM在短期内已经能够产生巨大影响的一个领域。

对于像eBay这样庞大且多样的代码库,我们有时也会遇到一个问题,即现有的商业LLM产品只能访问与当前问题直接相关的数据和代码,通常是周围的文件、
当前的代码库以及一些依赖库。它可能无法察觉到其他团队维护的不同内部服务或非依赖库中提供的相同功能。这往往导致大量的代码重复。
但一个微调后的LLM可以访问我们希望的尽可能多的上下文,从而有可能减少代码重复的数量。

### Amazon 遗留基础设施改造

许多组织面临维护关键遗留Java应用程序的挑战,这些应用程序由于框架过时、代码无文档和安全漏洞而变得难以维护。现代化这些应用程序是必要且具有挑战性的任务。Amazon
Q Developer简化并加速了这一过程。
Expand Down

0 comments on commit 48c8696

Please sign in to comment.