全网唯一标准王
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210980225.2 (22)申请日 2022.08.16 (71)申请人 北京京东振世信息技 术有限公司 地址 100086 北京市海淀区知春路76号6层 (72)发明人 姚思雨 贺思远  (74)专利代理 机构 北京华夏泰和知识产权代理 有限公司 1 1662 专利代理师 邓菊香 (51)Int.Cl. G06F 16/22(2019.01) G06F 16/23(2019.01) G06F 16/2455(2019.01) (54)发明名称 多表关联 方法及装置、 设备及存 储介质 (57)摘要 本公开涉及一种多表关联方法及装置、 设备 及存储介质, 属于大数据技术领域, 所述方法包 括: 对接收的多表关联任务进行解析, 生成用于 多表关联的执行链; 监听多表关联任务中的每个 表, 在当前表更新了日志数据时, 将当前表更新 的日志数据解析为消息, 并对解析后的消息进行 信息补充, 得到当前表的完整消息; 按照多表关 联的执行链, 将当前表的完整消息关联至多表关 联任务中的待关联表, 在执行链的各节点执行监 听、 判断、 解析和关联等消息处理任务, 均在内存 中进行的, 无需中间件且不需要序列化和反序列 化的过程, 消息处理过程占用磁盘空间少, 磁盘 消耗低。 权利要求书2页 说明书11页 附图4页 CN 115292327 A 2022.11.04 CN 115292327 A 1.一种多表关联 方法, 其特 征在于, 所述方法包括: 对接收的多表关联任务进行解析, 生成用于多表关联的执行链, 其中, 所述执行链包括 按序连接的多个节点; 监听多表关联任务中的每 个表; 在当前表更新了日志数据时, 将当前表更新的日志数据解析为消息, 并对解析后的消 息进行信息补充, 得到当前表的完整消息; 按照多表关联的执 行链, 将当前表的完整消息关联至多表关联任务中的待关联表中。 2.根据权利要求1所述的方法, 其特 征在于, 所述 生成用于多表关联的执 行链, 包括: 对多表关联任务中的每 个表分别生成对应的执 行链, 得到每 个表的执 行链; 根据多表之间的关联关系, 将每 个表的执 行链进行 连接, 生成用于多表关联的执 行链。 3.根据权利要求1所述的方法, 其特征在于, 在所述将当前表更新的日志数据解析为消 息之前, 所述方法还 包括: 在当前表更新的日志数据的数量超过预设阈值时, 提供多个线程, 用于拉取所述更新 的日志数据, 以将拉取的日志数据解析为消息 。 4.根据权利要求1所述的方法, 其特 征在于, 所述对解析后的消息进行信息补充, 包括: 对解析后的消息的版本信 息、 时间信 息和批次信息进行补充, 其中, 所述批次信 息为日 志数据更新的次序。 5.根据权利要求 4所述的方法, 其特 征在于, 所述方法还 包括: 对关联后的多表中的消息进行版本合并, 并将版本合并后的多表上传至目标存储位 置; 确定已上传的日志数据的批次信息, 并将所述批次信息对应的日志数据标记为已处 理, 用于与下一批次的日志数据区别开。 6.根据权利要求1所述的方法, 其特征在于, 在所述将当前表更新的日志数据解析为消 息之前, 所述方法还 包括: 对当前表更新的日志数据进行缓存, 以将缓存的日志数据解析为消息, 其中, 所述缓存 内容包括索引部分和数据部分, 索引部分包括关联字段和数据主键, 数据部分包括数据主 键和真实数据。 7.根据权利要求6所述的方法, 其特征在于, 所述按照多表关联的执行链, 将当前表的 完整消息关联至多表关联任务中的待关联表, 包括: 根据多表关联的执 行链确定当前表与多表关联任务中的待关联表进行关联的次序; 按照与待关联表进行关联的次序, 在每一个待关联表的缓存内容的索引部分中查询是 否存在与当前表的完整消息可关联的消息, 其中, 所述当前表的完整消息包括同一批次的 多条消息; 在当前待关联表的缓存内容的索引部分中不存在与当前表的完整消息可关联的消息 时, 在当前待关联表的预存源数据的索引部分中查询是否存在与当前表的完整消息可关联 的消息, 其中, 所述预存 源数据包括索引部分和数据部分; 在当前待关联表的缓存内容或预存数据源的索引部分中存在与当前表的完整消息可 关联的消息时, 根据当前待关联表索引部分的数据主键查询真实数据, 将当前表的完整消 息与当前待关联表的真实数据进行关联。权 利 要 求 书 1/2 页 2 CN 115292327 A 28.一种多表关联装置, 其特 征在于, 包括: 生成模块, 其用于对接收的多表关联任务进行解析, 生成用于多表关联的执 行链; 监听模块, 其用于监听多表关联任务中的每 个表; 解析模块, 其用于在 当前表更新了日志数据时, 将当前表更新的日志数据解析为消息, 并对解析后的消息进行信息补充, 得到当前表的完整消息; 关联模块, 其用于按照多表关联的执行链, 将当前表的完整消息关联至多表关联任务 中的待关联表。 9.一种电子设备, 其特征在于, 包括处理器、 通信接口、 存储器和通信总线, 其中, 处理 器、 通信接口和存 储器通过通信总线完成相互间的通信; 存储器, 用于存放计算机程序; 处理器, 用于执行存储器上所存放的程序时, 实现权利要求1 ‑7中任一项所述的多表关 联方法。 10.一种计算机可读存储介质, 其上存储有计算机程序, 其特征在于, 所述计算机程序 被处理器执行时实现权利要求1 ‑7中任一项所述的多表关联 方法。权 利 要 求 书 2/2 页 3 CN 115292327 A 3

PDF文档 专利 多表关联方法及装置、设备及存储介质

文档预览
中文文档 18 页 50 下载 1000 浏览 0 评论 0 收藏 3.0分
温馨提示:本文档共18页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 多表关联方法及装置、设备及存储介质 第 1 页 专利 多表关联方法及装置、设备及存储介质 第 2 页 专利 多表关联方法及装置、设备及存储介质 第 3 页
下载文档到电脑,方便使用
本文档由 SC 于 2024-02-07 12:40:01上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。