面临的挑战

虽然生成式AI技术及工具已经在软件生命周期的各个环节中体现出了提效的可行性,但想要在大型科技组织中端到端落地、实现提效的突破,还面临很多挑战。

企业规模化软件过程提效的挑战

信息安全和信创化的强制要求

大型企业尤其是银行,面临最强的信息安全监管及信创化、国产化要求,需要国产生态中能力突出的大模型。

开源大模型表现偏弱、自己训练成本高

目前可私有化部署的大模型,其自然语言理解和代码生成的水平与GPT有一定差距;根据大语言模型论文做一些粗略的数学计算,如果用的是 Facebook LLaMA,训练成本(不考虑迭代或者出错)大约是400 万美元,如果是谷歌PaLM,大约 2700 万美元。

与企业内部工具进行结合

碎片化的应用提效效果有限,把 AI 无缝集成到BizDevOps 工具链中,技术难度尚未可知。

开发 AI 辅助研发提效的局限性

基于 GPT 模型的工具不符合信息安全要求

目前大多工具基于 OpenAI GPT 构建,不能私有化部署,不符合信息安全的强制要求;需要寻找能够私有化部署且水平相当的替代品。

公开LLM 针对专业领域表现不佳,适用性差

缺乏专业知识,对于某些专业领域缺乏足够的理解。它受训练数据中的影响,容易产生偏见和错误。

LLM 工具碎片化

各类工具都是在一个个分散的工作节点上辅助,使用时来回切换工具的成本很高,整体端到端地提效不明显。