Fractal Analytics 通过 AWS 上的生成式人工智能将呼叫处理时间缩短多达 15%

Fractal Analytics 认为，无论决策是否有人工智能（AI）的辅助，人类的想象力始终是每项决策的核心。这家跨国企业是印度最初的人工智能独角兽公司之一，它使用生成式人工智能等技术，通过数据驱动的智能增强人类想象力。

Fractal 提供了一系列可定制的解决方案，以改善金融和医疗保健等行业的客户和业务成果。例如，Patient Jarvis 是一款由人工智能驱动的数据加速器，可让医疗从业者随时通过动态视图查看患者的医疗保健史。

该公司的最新创新之一 Knowledge Assist 利用大型语言模型（LLM）提高大型企业的知识检索效率。在过去，对知识型员工来说，从众多内部来源中检索和整合数据是一项非常耗时的任务。这些数据通常是非结构化的，增加了每次查询的复杂性。

Fractal 的客户群包括众多《财富》500 强公司，因此在开发新产品时，数据安全和隐私至关重要。大多数客户在其私有网络中部署 Fractal 的解决方案，因此平台灵活性也很重要。Fractal 曾在 Amazon Web Services（AWS）上执行许多大规模软件即服务（SaaS）项目的实施，包括每月处理 1500 万次查询的聊天解决方案，因此其选择在 AWS 上构建 Knowledge Assist。

该公司在 Amazon Bedrock 上部署了其大型语言模型。Amazon Bedrock 是一项具有广泛功能的全托管服务，可用于构建生成式人工智能应用程序，并确保符合安全、隐私、负责任的人工智能原则。Fractal 的工程团队对可用模型进行了广泛的实验，根据预期应用场景评估了成本和性能。

Fractal Analytics 产品和加速器客户合作伙伴 Ritesh Radhakrishnan 说：“生成式人工智能领域正在迅速发展。我们能够在 Amazon Bedrock 上选择各种大型语言模型，并迅速进行实施或实验，同时，我们还可以将平台作为 API 使用，无需担心托管问题，这有助于加快我们的实验和扩展速度。”

在开发过程中，Fractal 与 AWS 密切合作，获得了包括对标服务成本在内的宝贵指导。“近七年来，无论是获得用于实验的服务抵扣金、举办技术讲习会和培训，还是接触能够帮助我们更深入了解 AWS 服务和人工智能最佳实践的专家，在各个方面，我们一直得到了 AWS 的持续支持。”Radhakrishnan 补充说。

除了 Amazon Bedrock 之外，Fractal 还使用Amazon Elastic Container Service（Amazon ECS）为 Knowledge Assist 构建连接器，并使用 Amazon OpenSearch Service 实现向量/语义搜索。SaaS 应用程序层运行在 Amazon Elastic Kubernetes Service（Amazon EKS）和 AWS Lambda 无服务器计算上。Radhakrishnan 评论说：“每项服务都非常稳健，这有助于我们专注于应用程序，不必担心底层框架的扩展和稳定性。这加快了我们的整体开发进程。”

Knowledge Assist 坚持同样严格的安全和隐私要求，使 Fractal 深受客户信赖。该平台使用专用端点在每位客户的网络内保护其数据，并对数据进行端到端加密。此外，个人身份信息在存储到应用程序的分析层之前会被屏蔽。