还在死磕的事:端到端自动评估流程以实现更快的迭代。 . 调用内部 领英拥有大量关于人、公司、技能、课程等的独特数据这些数据对于构建具有独特和差异化价值的产品至关重要。然而大语言模型(并未经过这些信息的训练因此无法直接用于推理和生成响应。
为了解决这个问题一个标准的做法是设置检索增强生成(流程通过该流程调用内部并将它们的响应注入到后续的大语言模型提示词中以提供额外的上下文来支持生成响应。 这些独特的数据中有很多是通过各种微服务中的远程过程调用(在内部公开的。
这些虽然这对于人类通过编程方式调用非常方便但对于大语言模型来说并不友好。我们通过把这些“包装”成技能来解决这个问题。每个技能()都包含以下组件: 人类(和大语言模型友好的描述:说明的功能以及何时使用它。
调用配置:包括端点、输入、输出等。 大语言模型友好的输入和输出: 基本类型(如字符串 印度尼西亚电话号码数据 布尔值数字 风格的输入和输出 业务逻辑:用于在大语言模型友好的与实际 之间进行映射。 (注:是个编程术语也许可以翻译成模式拿表作类比表头是 这样的技能使大语言模型能够执行与我们的产品相关的各种任务如查看个人资料、搜索文章人员职位公司甚至查询内部分析系统。
同样的技术也用于调用非 如搜索和新闻。 智能体产品案例深度思考和分享(全球顶级公司实践细节做智能体必读 图:使用技能调用内部 我们编写了提示词要求大语言模型(决定使用哪种技能来解决特定任务(通过规划来完成技能选择然后输出调用该技能所需的参数(函数调用。