Hal9 (GitHub) 旨在简化基于LLM、扩散模型和其他AI模型的应用程序的创建、部署和共享。无论是构建聊天机器人、代理、API还是生成式应用，Hal9 都能最大限度地减少工程开销，让您专注于AI本身。
为什么选择Hal9？
许多生成式AI项目耗费大量时间在工程难题上——例如构建界面、集成工具和管理基础设施——而非核心AI工作，例如提示优化、RAG策略实施或模型性能优化。
Hal9 通过显著减少工程开销来改变这一现状。它提供了一个基于Unix IO约定（如stdin和stdout）的简洁轻量级界面，让您专注于AI创新，无需学习复杂的框架或部署流程。
使用Hal9，您可以本地原型设计和运行（无需额外依赖），使用我们的免费在线平台快速部署，或轻松扩展至企业级解决方案。我们还支持组织在自身环境中进行云部署，或为企业客户提供额外的计算资源。
Hal9的目标是消除干扰，让您专注于更快速、更智能地构建。
Hal9是什么？
Hal9是一个专为生成式AI设计的部署平台，可在几秒钟内创建和部署生成式（LLM和扩散器）应用程序（聊天机器人、代理、API、应用程序）。主要特性：
- 灵活: 支持任何库和任何模型。
- 直观: 无需学习应用框架，只需使用input()和print()。
- 可扩展: 旨在与Docker和Kubernetes等可扩展技术集成。
- 强大: 使用操作系统进程（stdin、stdout、文件）作为应用协议，支持长时间运行的代理、多种编程语言、复杂的系统依赖项以及在安全的Kubernetes pod中运行任意代码。
- 开放: Hal9应用背后的代码也是开源的，可在我们的代码库中访问并贡献。
核心理念
我们相信Python生态系统已为LLM交互到生成任务的所有内容提供了优秀的库。Hal9并非重新发明轮子，而是将它们集成到统一的工作流程中，让您专注于AI特定挑战，例如检索增强生成(RAG)、微调、对齐和训练。
Hal9非常适合希望快速实验、迭代和部署AI应用，且不想陷入前端设计或后端集成等工程任务的开发者。由于其开放式架构和简单的应用结构，它也是寻求协作的团队的理想选择。
我们的历程
我们于2021年启动Hal9，目标是简化AI开发。最初，我们专注于Web开发者，将AI与D3.js和TensorFlow.js等技术结合。虽然低代码界面很受欢迎，但用户需要Python支持。
2022年，我们进一步减少了代码量，并采用了GPT-3等LLM，朝着自动代码生成和简化用户体验的方向发展。经过多次迭代，Hal9已发展成为一个能够实现更快、更轻松的AI应用开发的平台。
资源
我们持续发布博文，演示如何将您喜爱的框架与Hal9集成。已发布的技术博客文章包括：
- Hal9与OpenAI Swarm
- Hal9与NVIDIA NIM
- Hal9与Dagworks
- 用于文本到SQL的Hal9
欢迎提供您的想法、反馈和创意——Hal9致力于构建应用程序，也致力于创建开发者社区。
