生成式人工智能(genai)的迅速崛起使得企业争相寻找新的创新方法来利用这项技术在商业应用中的力量。许多企业认为，大型语言模型(llm)已经重塑了人工智能驱动的商业应用程序的构建方式，所需要的只是将数据输入到大型企业的llm模型中，它就会完成工作。然而，事情并没有那么容易
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜
研究和咨询公司Forrester发布了一份新的报告，强调GenAI商业应用需要的不仅仅是一个通用的LLM。即使是最精心调整和提示训练出来的LLM也可能不足以构建和安全运行基于GenAI的应用程序。这种简单的方法不允许组织使用他们所有的专有知识来工作。它还存在其他一些风险，包括伸缩性、安全性和成本问题。
Forrester的报告是通过调查15家最大的服务提供商如何使用GenAI帮助全球2000多家公司来编写GenAI驱动的业务应用程序。该报告的调查结果表明，企业需要组装一个“层、门和管道”架构，以安全有效地运行基于GenAI的应用程序。
“层、门和管道”架构利用来自许多智能层的资源，将内部和外部功能结合在一起。它还需要输入和输出控制门来保护人员、公司和模型本身。此外，它还需要应用程序管道来提示、嵌入和编排智能层，以便将请求转换为输出。最后，需要测试和学习循环来测试和监视结果并做出相应的调整。
在深入挖掘“层、门和管道”架构的元素时，报告指出，智能层包括广泛的功能，包括通用的、嵌入式的和专门的GenAI模型。
组织应该自己创建和管理的智能资源包括软件应用程序、AI/ML模型、私有GenAI模型、结构化和非结构化数据，以及人们的提示和行为。组织应该从供应商处获取的情报来源应该包括特定于领域的GenAI模型、公共GenAI工具、绑定的GenAI模型，比如SaaS应用程序。
使用输入门可以阻止错误请求、虚假提示和危险搜索。它还可以将模糊的请求转化为可回答的提示。输出门根据遵从性需求和安全性等方面帮助验证问题的输出
应用程序管道用于将所有这些连接在一起，通过API优先工作流。它们有助于将资源从智能层无缝地组合起来，以实现端到端的顺畅流动。架构的最后一个要素是通过测试的反馈循环进行测试。它们有助于在应用程序中建立信任、信心和有效性
根据Forrester的报告补充指出，企业现在有机会从不同的部分组装应用程序，因为他们可以在未来几年内构建一个完整的体系结构来支持GenAI应用程序。只有通过适当的关注，企业才能充分受益于GenAI业务应用程序的强大功能
