由Doron Bleiberg、Eyal Solnik和Liran Zelkha于2024年7月18日发表于 Amazon Bedrock、客户解决方案、基于经验的加速、生成式AI永久链接评论 分享
在快速变化的大型语言模型LLMs和生成式人工智慧AI世界中，Lili认识到可以利用这项技术来满足小企业客户的财务咨询需求。利用Anthropic的Claude 3 Haiku于Amazon Bedrock的能力，Lili开发了一个智能的会计AI聊天机器人，能够根据每位客户的财务历史和业务需求提供随需的会计建议。这个会计AI聊天机器人成为一个虚拟助手，提供负担得起且随时可用的财务指导，让小企业主能够专注于他们的核心专业，同时确保业务的财务健康。
Lili是一个专为业务设计的金融平台，结合了先进的商业银行功能和内置的会计及税务准备软件。通过将财务工具整合到易于使用的界面中，Lili简化了业务财务管理的过程，并且成为寻求集中和高效管理财务运营的业主的理想解决方案。
在这篇文章中，我们将探讨Lili如何运用Amazon Bedrock为小企业主构建一个安全而智能的会计AI聊天机器人。Amazon Bedrock是一项完全托管的服务，提供来自Anthropic、Meta、Mistral AI、Stability AI、Cohere、AI21 Labs和Amazon等知名AI公司的高性能基础模型FMs，并通过单一API提供多样的能力，以构建具备安全性、隐私性和负责任AI的生成式AI应用。
会计AI聊天机器人以安全的方式为小企业主提供准确且相关的财务会计建议。为实现这一目标，解决方案需满足两个关键要求：
问题验证 实施防护措施，确保用户输入的是有效且合法的财务会计问题。这一步骤有助于筛选出不相关或不恰当的查询，维护系统的完整性。上下文丰富化 使用相关的上下文数据来增强用户的问题，例如最新的会计资讯和用户特定的财务数据。这一步骤确保聊天机器人的回应根据个别用户的业务和财务状况进行量身定制，提供更具个性化和可执行的建议。为了满足问题验证和上下文丰富化这两个关键要求，会计AI解决方案采用一种由提取工作流和检索工作流组成的两阶段架构。
鲤鱼加速器免费签到提取工作流是一个离线过程，准备系统以满足客户查询。在这一阶段，Lili策划了一个全面的黄金集合，该集合包含常见的财务会计问题及多年来来自客户群的真实问题。这个多样且高质量的集合作为参考词库，保证聊天机器人能够处理多种相关查询。提取工作流将这些策划的问题转化为向量嵌入，使用Amazon Titan文本嵌入模型API。这个过程通过Amazon Bedrock的AWS PrivateLink进行，该通道在您的VPC中提供安全的私密连接。这些向量将帮助在检索工作流中验证用户的输入。
每个策划的向量嵌入都与测试中评估为最有效的相应提示模板配对。
示例提示模板
xml提供关于代理作为Lili的财务查询AI助手的角色与一般准则的背景
提供有关Lili平台的详细信息。
详细列出Lili的产品特点。此部分旨在详细解释Lili的特性，确保回答与Lili平台一致。例如，当回答有关税收减免管理的问题时，强调客户应熟悉的Lili所提供的相关特征。
概述所需的格式，以确保回答达到预期结构。
与回答客户问题相关的数据。
与问题相关且模型不熟悉的特定会计知识，例如2024年的更新数据。
包含用户的实际问题。
提供有关如何适当回答问题并满足期望的核心指示。它还定义提供详尽且高质量答案的步骤。
重要的指导方针以提醒代理并确保其遵循，例如答案的确切格式。
Lili的网页聊天机器人界面允许用户提交查询并即时接收回应。当客户提出问题时，它会被发送到后端系统进行处理。
系统首先使用Amazon Titan文本嵌入模型API将查询转换为向量嵌入，该模型通过PrivateLink安全访问。接下来，系统对黄金集的预计向量进行相似度搜索，以查找与用户查询最相关的匹配项。系统对搜索结果的相似度分数进行评估，与预定的阈值进行比较。如果用户的问题产生低相似度分数的匹配项，则被视为不明确或不合规，会提示用户重新表述或修正查询。但是，如果用户的问题生成的匹配项具有高相似度分数，则被视为有效的查询。在此情况下，Lili的后端系统将根据与用户查询最相似的黄金问题进一步处理。根据与用户查询最相似的黄金问题，系统检索相应的提示模板。此模板将使用来自外部数据源如Amazon RDS for MySQL的最新会计信息和客户特定的财务数据进行增强。生成的上下文化提示被发送至Anthropic的Claude 3 Haiku在Amazon Bedrock上生成针对客户查询的定制回应，考虑到他们独特的业务情况。
由于模型提供商不断用创新的更新来增强其产品，Amazon Bedrock简化了跨多个模型提供者采用生成式AI新进展的能力。这种方法在会计AI的初期推出中就显示出了其优势。Lili在其Amazon Bedrock环境中，在Claude 3正式发布后的两周内，就从Anthropic的Claude Instant升级为Claude 3。
Lili在审查行业基准并进行自身质量评估后，选择了Anthropic的Claude模型系列作为会计AI的基础。在理解财务概念、生成连贯自然语言以及提供准确、定制的建议方面，Amazon Bedrock上的Anthropic Claude表现始终优于其他模型。
在会计AI的初步发布后，Amazon Bedrock引入了Anthropic的Claude 3 Haiku模型，Lili对该版本与Anthropic Claude Instant进行了比较。Anthropic Claude 3 Haiku模型在以下三个关键评价标准上展现了显著的改进：
质量 Anthropic Claude 3 Haiku提供的输出质量更高，提供了更详细且措辞更好的回应。响应时间 Anthropic Claude 3 Haiku相较于Claude Instant的响应时间提高了10至20。成本 在Amazon Bedrock上，Anthropic Claude 3 Haiku是最具成本效益的选择。例如，其每千个输入/输出标记的成本比Anthropic Claude Instant低达68，同时提供更高的智能水平和性能。详细资讯可参考Anthropic的Claude 3模型在Amazon Bedrock上的介绍。对于像Lili这样的客户，这凸显了拥有亚马逊Bedrock这样的完全管理服务的重要性，该服务提供高性能基础模型的选择，以满足多样的企业AI需求。没有“万能模型”，能够从一系列尖端的基础模型中选择对于希望有效且经济地使用最新生成式AI技术的组织至关重要。
专属于Lili客户的会计AI功能减少了雇用专业会计师的需求。虽然专业会计师可以提供有价值的指导和专业知识，但对于许多小企业来说，其服务成本可高昂。会计AI已经解答了成千上万的问题，为商业提供了切实的价值，并就财务、税务及会计查询提供了高质量的回应。
利用Amazon Bedrock的简易、安全及可靠访问，高性能的基础模型来自知名AI公司，Lili能够将会计知识按规模整合至每位客户的独特数据中。这一创新解决方案以负担得起的专业知识优化现金流、简化税务规划，并促进明智的决策以推动增长。会计AI弥补了会计资源的缺口，使每个业务都享有高质量财务智慧的机会。
今天就探索由Amazon Bedrock提供支持的Lili会计AI功能，获取您业务所需的负担得起和可及的财务智慧，或者使用Amazon Bedrock Playgrounds实验运行不同模型的推断功能。
Doron Bleiberg 是AWS初创企业解决方案架构师，帮助金融科技客户进行云端之旅。
Liran Zelkha 是Lili的联合创始人兼CTO，负责开发和数据工作。
Eyal Solnik 是Lili的数据负责人并领导会计AI产品团队。
加载评论
留言框-
