1.PolarDB-X 源码解读(七):私有协议连接的源码解绑一生(CN篇)
2.深入理解Vue3自定义指令ClickOutside的实现
3.UE4 Delegate(委托)相关源码分析(一)
4.搭建个人发卡平台教程?
PolarDB-X 源码解读(七):私有协议连接的一生(CN篇)
通过前文的介绍,大家基本了解了一条SQL在polardbx-sql中的源码解绑解析和执行流程。由于polardbx-sql是源码解绑无状态的计算节点,真正数据需要从存储节点传输到计算节点,源码解绑这部分工作由私有协议完成。源码解绑本文将详细介绍从发送请求到存储节点,源码解绑源码商城分销接收返回数据的源码解绑完整流程,重点在于私有协议连接的源码解绑生命周期和关键代码解析。
概述
为了提高数据节点本地计算能力,源码解绑同时减少网络数据传输量,源码解绑计算节点会尽可能下推计算内容。源码解绑一个逻辑表可能需要多个物理分片,源码解绑因此计算节点与存储节点的源码解绑请求会话数量会随着分片数增加而增加。传统MySQL协议+连接池架构已不能满足PolarDB-X的源码解绑需求,因此私有协议在这一需求场景下应运而生。源码解绑
如图所示,私有协议采用连接与会话分离的RPC协议设计理念,支持多个会话在同一个TCP通道中并行运行,具备流控机制、全双工响应式工作模式和高吞吐、可扩展等特性。
更多关于私有协议解决上述问题的设计详情,可以参考《PolarDB-X私有协议设计》一文。本文主要从代码层面详细描述私有协议的工作流程。
我们将从计算节点和存储节点两个角度完整解析私有协议连接的生命周期。篇幅限制,本文仅关注计算节点上私有协议的处理,存储节点部分将在后续文章中详细说明。
计算节点
计算节点作为私有协议的客户端,负责发送下推请求,并接收返回的数据。
网络层框架
PolarDB-X私有协议网络层采用定制化Reactor框架实现,基于Java的NIO,改进自polardbx-sql中的Reactor框架。网络层初始化时,设置CPU核心数的2倍(上限为)作为NIOProcessor,每个Reactor使用独立的堆外内存池作为收发包缓冲,总缓冲内存大小限制为堆内存大小的%。
NIO接收的包直接调用注册的处理函数,发送数据仅写入send buf,网络写入由单独线程完成。线程优先写入TCP send buf,转转之星源码当无法写入时,注册OP_WRITE事件等待可写后再写入剩余内容。
数据包的编码和解码在NIOClient中实现。为实现最佳性能,解包流程直接在堆外内存上进行,使用protobuf对流直接解析,将结果放入堆内。堆外内存被切分为KB chunk,每个Reactor独占一个chunk,连续解析和复用,最大化接收、解析效率。对于特大包,额外构造堆内大buffer接收和解析,回退标志在定时任务中重置,连续s无超大包时释放堆内内存,恢复高性能堆外KB buffer接收。
请求发送集成在NIOClient中,writer优先尝试写入发送缓冲队列尾部的buffer,不足时新申请buffer填充并追加到队尾。buffer来自预分配的堆外缓冲池,超过chunk大小时分配堆内buf进行序列化。
同时,NIOClient负责TCP连接的建立和断开资源释放,作为独立的底层网络资源管理实现。
连接及会话
网络层之后,我们聚焦连接与会话分离的具体实现。通过剥离连接及收发包的具体实现,连接和会话的管理变得更加清晰简洁。
首先,一个TCP连接的逻辑抽象结构在XClient中实现,为避免误解,取名为client与JDBC中的Connection区别。该类管理TCP连接和并行运行的会话,负责TCP完整生命周期的管理、认证鉴权,并维护公共信息。其中,workingSessionMap记录了连接上并行运行的所有会话映射关系,可快速通过会话ID找到对应的会话抽象结构XSession。
XSession提供了所有会话相关的大发云系统源码请求函数和信息存储,包括执行计划请求、SQL查询请求、SQL更新请求、TSO请求、会话变量处理、数据包处理及异步唤醒等。
连接池及全局单例管理器
为了提高性能,TCP连接和会话的复用必不可少。由于连接和会话的解绑,连接池不仅缓存了到计算节点的TCP连接,也缓存了到计算节点的会话。
XClientPool管理到一个存储节点的连接池,通过IP,端口,用户名三元组唯一确定目标存储节点,同时存储该节点的全部TCP连接(XClient)和建立的会话(XSession)。
XClientPool实现存储节点会话获取,对应JDBC接口中的getConnection,同时实现连接和会话生命周期管理、连接探活、会话预分配等功能。实现单个存储节点连接池后,XConnectionManager维护目标存储节点三元组到实例连接池的映射,管理定时任务线程池,实现定时探活、会话&连接最长生命控制以及连接池预热等功能。
JDBC兼容层
新的SQL协议层对上层使用者要求较高,为了提高开发效率,私有协议提供兼容JDBC的使用方法,实现从JDBC平滑切换至私有协议,并支持协议热切换。
JDBC兼容层代码目录在compatible目录下,Connection继承在XConnection文件中。提供包括DataSource、Connection、Statement、PreparedStatement、ResultSet、ResultSetMetaData在内的大部分常用接口函数实现,不支持的函数会明确抛出异常避免误用。
整体关系
至此,vps 建站 源码url私有协议计算节点端的大部分结构已说明完成。给出一个整体的关系图。
私有协议连接的一生(CN视角)
了解了私有协议各层实现后,我们以发到存储节点的请求为例,完整梳理执行流程。绕开计算节点复杂流程,直接运行代码示例(注:需将com.alibaba.polardbx.rpc.XConfig#GALAXY_X_PROTOCOL设置为true)。
直接运行playground看到预期的select 1的结果。接下来,我们深入跟踪说明。
数据源初始化
要使用私有协议,需要初始化对应存储节点的XDataSource。构造过程中,XDataSource会到XConnectionManager注册新的实例连接池,已存在的连接池引用计数加一。
获取Connection
当需要执行查询时,首先获取会话。无论是显式开启事务还是使用auto commit事务,会话都是执行请求的最小上下文。通过XDataSource的getConnection方法获取到对应存储节点的会话。XDataSource根据存储的IP,端口,用户名三元组查找到XConnectionManager中的连接池,在最高并发检查后,会话获取逻辑在XClientPool实现。首先尝试在空闲会话池中拿会话,通过重置检查和初始化后返回给调用者。大部分场景下,ConcurrentLinkedQueue提供较好的并发性能。
在代码场景下,数据源刚新建,后台定时任务未运行,流程进入连接创建流程。会有一把大锁锁住连接池,在TCP连接未达上限且没有超时的情况下,快速新建一个XClient占坑。若超限,则进入busy waiting循环。真正的TCP connect(waitChannel)在锁外被调用,首先client以阻塞模式带超时方式connect,然后切换为非阻塞模式,阅读任务 系统源码round robin策略注册到NIOProcesser上,返回时,TCP连接已建立。
为了兼顾安全和性能,连接鉴权在TCP建连后只用做一次,会话创建不需要鉴权。鉴权在initClient中完成,发送SESS_AUTHENTICATE_START_VALUE包,后续校验由回调完成。认证采用标准的MySQL认证流程,server端返回challenge值,库名、用户名和加盐hash后的密码返回给MySQL即可完成认证。
至此,到存储节点的TCP连接已建立,创建会话是一个异步流程。在创建新XClient时,XConnection已new好,通过下断点跟进去可看到newXSession流程,分配session id,设置状态为init,将XSession绑定到XConnection上。
最后,XConnection经过初始化(重置auto commit状态)、重置默认DB、默认字符集(lazy操作)和统计信息记录,返回给用户使用。
发送查询请求
拿到初始化好的兼容JDBC的Connection,为了简化流程,直接调用XConnection中的execQuery。XConnection的execQuery包装了XSession的execQuery,执行前执行了设置流式模式。
首先记录调用信息进行统计,进入关键的initForRequest流程。XSession初始化流程lazy,仅分配session id,设置状态为Init,真正创建session时发送SESS_NEW给server,绑定新session和session id。如果session已复用,则状态为Ready。
执行字符集更改的lazy操作,session可能在其他请求中切换字符集,根据目标字符集和当前字符集对比,决定是否发送额外的字符集更改请求。
经过一系列变量设置、lazy DB设置和protobuf包构造,请求发送到存储节点执行。发送后,同步生成XResult负责结果解析,同时XResult按照请求顺序依次拉链表,确保结果与请求一一对应。
请求流水线结构如下图所示,处理完成前序请求后,才能解析后续结果。
接收结果集
请求已发送到存储节点执行,拿到XResult,通过XResult收集查询结果集。XResult与发送请求一一对应,存储节点处理也是在会话上排队进行,不会影响流水线上其他请求的返回,保证流水线正常工作。
首先,查看结果集处理的状态机,主要状态包括获取元数据、获取数据行、获取额外信息等,顺序固定,根据请求类型,部分环节可能被省略。报错处理贯穿整个状态机,任何报错信息都会导致状态机进入错误处理环节。
对于非流式数据读取,请求结束时主动调用finishBlockMode将所有数据读出并缓存到rows中。对于流式执行的情况,结果集状态机消费数据包队列由XResult的next函数推动,内部函数internalFetchOneObject递归调用前序XResult,消费前序请求结果,从数据包队列中消费并推动状态机流转。
对于查询,首先收到RESULTSET_COLUMN_META_DATA包,表示返回数据列定义,一个包表示一列。元数据包后,收到包含数据行的RESULTSET_ROW包,一个包对应一行。数据行传输完成后,server端发送RESULTSET_FETCH_DONE标示数据发送完成。请求结束前,NOTICE包用于告知客户端rows affected等信息。最后,SQL_STMT_EXECUTE_OK包标示请求结束。
至此,完整请求处理完成,控制台应显示查询结果。
总结
本文详细描述了私有协议连接流程中的关键点和关键数据结构,相信通过本文描述,大家掌握了私有协议连接流程的基本点,在调试和修改使用中能够更加得心应手。虽然本文篇幅较长,但实际使用中涉及更多高级特性的使用,如多请求流水线、流控、执行计划传输、chunk结果集传输等。通过本文,我们对私有协议连接流程有了深入理解,为在实际场景中应用提供坚实基础。
深入理解Vue3自定义指令ClickOutside的实现
深入理解Vue3自定义指令ClickOutside的实现
本文深入解析自定义指令ClickOutside的实现逻辑与原理,旨在为开发者提供清晰的理解路径。通过工具函数on和off的使用,理解事件绑定与解除绑定的基本操作。此外,介绍了在naive-ui-admin源码中on和off函数的高效应用,以及如何使用它们扩展为一次性事件处理函数once。
在自定义指令部分,解释了如何利用Vue的指令系统封装满足特定业务需求的指令,如ClickOutside。通过分析指令对象的生命周期钩子函数,特别是mounted、updated和beforeUnmount,以及参数el和binding的作用,展示了指令的定义与使用方式。
动态参数指令arg的介绍,展示了如何通过指令参数arg实现动态参数的切换,以适应不同的业务需求。利用arg属性,自定义指令可以更灵活地应对不同的场景。
简易版本实现中,首先定义了指令的事件处理函数eventHandler,并将其绑定到document上。通过判断事件target是否在el元素内,执行对应的处理逻辑。其中,contains函数用于判断节点关系,同时通过el === e.target的判断确保不误触发事件。简易版本最终实现了一个基本的ClickOutside功能。
针对简易版本的优化,提出将事件绑定到document上,仅在初始化和移除指令时执行,以减少每次绑定和解绑的操作。通过使用Map对象收集所有指令的eventHandler函数,在触发事件时统一执行,同时解决了解绑时寻找每个el对应函数的问题。
升级优化部分,通过对比VueUse和element-plus的实现逻辑,发现点击事件的触发机制不同,从而改进了简易版本,使其支持鼠标左、中、右键触发。进一步分析了click、mouseup和mousedown事件的区别,使得简易函数能够适应更广泛的用例。
源码实现逻辑中,详细介绍了naive-ui-admin中ClickOutside指令的实现细节。除了createDocumentHandler函数,其他功能与简易版本的实现相似,关键在于通过匿名闭包引用el和binding,实现指令与事件处理的联动。重点关注createDocumentHandler函数内部的逻辑,以及六个判断条件的使用,确保只有满足特定条件时才会触发对应的处理逻辑。
总结部分,本文旨在为读者提供一个全面的Vue3自定义指令ClickOutside实现的理解框架,从基本概念到源码细节,逐步深入解析。理解ClickOutside的实现逻辑有助于开发者在实际项目中灵活应用,解决与元素点击范围相关的复杂场景。
UE4 Delegate(委托)相关源码分析(一)
UE4委托是强效设计,尤其在大型项目中大放异彩。无论是模块解耦、扩展接口还是实现替换自定义实现,其价值巨大。未使用委托的程序员,当功能复杂且相互关联时,项目管理必定混乱。C++中,委托实现基于函数指针,核心是存储并调用。然而,成员函数指针的存在让C++委托实现变得独特而高效。UE4内置强大、实用的代理机制,本系列旨在深入解析代理源码,并提供实例应用。
打开代理宏定义文件,虽近行,主体类型仅几种。定义事件`DECLARE_EVENT`显得特别,其用途似乎不小但使用未广泛。事件与组播委托相似,但允许仅定义事件的类调用`Broadcast`、`IsBound`和`Clear`函数,限制外部类对这些函数的访问,便于在公共接口中公开事件。测试发现,外部仍然能调用这些函数,官方文档描述与实际不符。不确定是否为版本更新或使用方法问题。
普通单播代理定义`TBaseDelegate`模板类,继承`FDelegateBase`,使用`DelegateAllocator`存储`IDelegateInstance`对象,其中包含代理实现。普通多播代理则定义`TMulticastDelegate`模板类,继承`TBaseMulticastDelegate`,核心是`TInvocationList`数组,存储多个代理处理对象,并通过添加和删除函数维护数组,实现多播逻辑。广播时,遍历数组依次调用各代理处理对象。使用多播时,只需考虑绑定代理,无需解绑,无效代理会自动移除。
动态单播代理定义类`TBaseDynamicDelegate`,继承`TScriptDelegate`,存储`TWeakPtr(UObject指针)`和`FName(函数名称)`,通过反射系统找到对应`UFunction`执行。动态代理依赖UE4强大反射系统,绑定函数需加上`UFUNCTION()`宏。绑定函数时,`AddDynamic`等宏将函数指针转换为函数名称,或直接传递函数名称并调用`BindFunction`。动态多播可通过添加`BlueprintAssignable`标记,让蓝图使用并绑定。
UE4委托实现多样,但核心在于管理回调,实现模块解耦与功能扩展。掌握其原理与应用,有助于更高效地构建大型项目。
搭建个人发卡平台教程?
1. 准备网站空间和域名。
2. 将源码上传至空间并进行解压。
3. 绑定域名,通常在申请网站空间时会赠送域名,解绑并输入域名后,打开页面进行网站安装。
4. 访问域名通常会自动跳转至安装界面,如果不行,可以在域名后添加"install"尝试。
5. 按步骤操作,直至需要设置数据库信息,在此处输入数据库的账号和密码。