对话界面 - 使用 Claude LLM 的聊天机器人
本笔记本应该可以在 SageMaker Studio 中的
Data Science 3.0内核上很好地运行
在本笔记本中，我们将使用 Amazon Bedrock 中的基础模型(FMs)构建一个聊天机器人。对于我们的用例，我们使用 Claude 作为我们构建聊天机器人的 FM。
概述
对话界面，如聊天机器人和虚拟助手，可用于增强我们客户的用户体验。聊天机器人使用自然语言处理(NLP)和机器学习算法来理解和响应用户查询。聊天机器人可用于各种应用程序，如客户服务、销售和电子商务，以快速高效地回答用户的问题。它们可通过各种渠道访问，如网站、社交媒体平台和消息应用程序。
使用 Amazon Bedrock 的聊天机器人
用例
- 基本聊天机器人 - 使用 FM 模型的零样本聊天机器人
- 使用提示的聊天机器人 - 模板(Langchain) - 带有一些上下文提供在提示模板中的聊天机器人
- 带有角色的聊天机器人 - 具有定义角色的聊天机器人，如职业教练和人类互动
- 具有上下文感知的聊天机器人 - 通过生成嵌入来传递外部文件中的上下文。
使用 Amazon Bedrock 构建聊天机器人的 Langchain 框架
在对话界面(如聊天机器人)中，高度重要的是记住以前的交互，无论是短期还是长期。
LangChain 以两种形式提供内存组件。首先，LangChain 提供了管理和操作先前聊天消息的帮助实用程序。这些被设计为模块化的，并且无论如何使用它们都很有用。其次，LangChain 提供了轻松地将这些实用程序纳入链中的方法。它允许我们轻松定义和交互不同类型的抽象，这使得构建强大的聊天机器人变得容易。
构建具有上下文的聊天机器人 - 关键元素
构建具有上下文感知的聊天机器人的第一个过程是为上下文生成嵌入。通常，我们将有一个摄取过程，它将运行我们的嵌入模型并生成将存储在某种矢量存储中的嵌入。在这个例子中，我们使用 Titan Embeddings 模型来完成这个任务。
第二个过程是用户请求编排、交互、调用和返回结果
架构[具有上下文感知的聊天机器人]
设置
⚠️ ⚠️ ⚠️ 在运行此笔记本之前，请确保我们已经运行了 Bedrock boto3 设置笔记本 。⚠️ ⚠️ ⚠️