(续)
这里,ζ, β, 和γ是可学习参数,ε是用于控制稳定性的超参数,而E[]和Var分别表示期望和方差。对于LCP之后的图归一化,它将h_i^L作为输入x,输出x_norm,然后重命名为h_i^L并发送至拼接层(公式(3))。相应地,在MCP之后,它将h_i^M作为输入x,输出x_norm,然后重命名为h_i^M并发送至拼接层。
III-C 潜在信息编码器和MLP解码器
传统的图自编码器由于数据的复杂性和高维性,缺乏在未知的新高级图上生成链接预测的能力。但我们的模型采用了一个潜在信息编码器,从RDKit库中提取和组合特征(如子结构识别、原子中心性、ECFP6、芳香性建模、原子分类、物理化学参数、化学特征类别和其他核心化学属性)。
首先,我们使用另一个映射函数f_feature: (F1, F2, t) → X_f,将属性信息映射到输入向量。然后,结合分子结构编码数据x_o,属性信息X_f可以被表示为低维潜在空间。这有助于降低数据的复杂性和稀疏性。此外,这使我们能够通过两个全连接层提取相关的潜在变量,这些层提供均值μ和方差的对数logσ,以创建一个低维多元正态分布。我们通过以下方式计算μ和logσ:
μ = W_μ [Ψ(x_o) ∥ Ψ(X_f)], logσ = W_σ [Ψ(x_o) ∥ Ψ(X_f)] (7)
其中W_μ和W_σ是模型参数矩阵,Ψ表示归一化,而[∥]表示拼接操作。μ和logσ分别是均值向量和方差对数向量(长度为64)。
现在,我们的模型能够通过使用μ和logσ来开发一个后验分布,从而将所有特征压缩到一个低维潜在空间中,在复杂的高层次图上产生新的节点链接和交互可能性:
e = μ + κ(logσ) · exp(0.5 · logσ) (8)
其中e是输出,通过从μ和logσ进行重参数化生成。κ是一个生成任意正态分布 N(0,1) 的函数。
最后,我们的解码器包含一系列MLP层,使用编码器生成的输出来计算相应节点之间可能的边:
Z = MLP(e) (9)
其中e是输入,Z是输出向量。然后,关于是否会发生相互作用的最终预测(即一个边值)通过以下方式执行:
p = σ(z), z = FCL(Z) (10)
其中z是由全连接层(FCL)生成的标量值,p是最终输出概率,范围在0到1之间。σ(.)表示sigmoid函数。
算法1:CADGL
1: 输入:每种组合的 (D1, D2, t)
2: 输出:p
3: 映射结构信息 f_graph: (D1, D2, t) → x
4: 映射物理化学特征 f_features → X_f
5: for x, X_f 中的 DDI 组合 do
6: 局部上下文处理器:x → h_i^L
7: 分子上下文处理器:x → h_i^M
8: 拼接两者:(h_i^L, h_i^M) → h
9: 自监督图注意力网络:h → x_o
10: 潜在编码:X_f, x_o → μ, logσ
11: 重参数化:μ, logσ → e
12: 解码:e → Z
13: 概率计算:Z → p
14: end for
III-D 训练目标
为了训练我们的CADGL,我们采用了三个损失函数,一个基于交叉熵(CE),一个用于自监督层(SS),另一个基于Kullback-Leibler散度(KL)。最终的损失函数是三个损失项的线性组合,不使用任何超参数,以避免复杂的超参数调优。
l_CADGL = l_CE + l_SS + l_KL (11)
请注意,每个损失函数的影响已在补充材料中进行研究和报告。
III-D1 交叉熵损失(CE损失)
CE损失旨在最小化正边预测概率与1、负边预测概率与0之间的差异,如下所示:
l_CE = -1/n Σ_{i=1}^{n} (p_i' log σ(p_i) + (1 - p_i') log (1 - σ(p_i))) (12)
这里,p_i是第i个药物对的输出(在公式(9)中),其中i的范围从1到n。σ(·)表示sigmoid函数,第i个药物对的标签由p_i'表示。
III-D2 KL散度损失(KL损失)
此损失用于我们的潜在信息编码器(公式(8))。KL散度损失是衡量两个概率分布之间差异的指标。在这里,它衡量学习到的分布(参数为μ和logσ)与单位高斯分布之间的差异。它用于通过保持稳定的高斯形状来稳定分布,如下所示:
l_KL = KL(q(z|x) || p(z)) = 1/2 Σ_{j=1}^{D} (1 + 2 logσ_j - μ_j^2 - σ_j^2) (13)
这里,q(z|x)是学习到的分布,参数为μ和logσ,D表示维度,p(z)是均值为0、方差为1的单位高斯分布。
III-D3 自监督损失(SS损失)
它用于自监督图编码器。我们遵循,将自监督优化目标定义为二元交叉熵损失:
l_SS = -1/|E ∪ E^-| Σ_{(j,i)∈E∪E^-} I(i,j) · log φ_ij^l + I(i,j) · log (1 - φ_ij^l) (14)
其中I(i,j)是一个指示函数,如果i==j则输出1,否则输出0。我们使用E ∪ E^-的一个子集(正负边采样),由概率p_e ∈ (0,1] 在每个训练迭代中采样,以产生随机性的正则化效果。φ_ij^l表示节点i和j之间存在边的概率。
IV 实现与实验
IV-A 实验设置
我们的实验使用了DrugBank数据集。该数据集包含1,703种药物和总共191,870个药物对,涵盖86种DDI类型。它还包含了药物的结构和化学信息。为了进行分析,我们将数据集分为三个子集:包含115,185个药物对的训练集、包含38,348个药物对的验证集和包含38,337个药物对的测试集。我们进行所有实验5次以收集实验结果。我们以0.001的学习率训练模型总共300次迭代。
IV-B 与最先进技术的比较
在本实验中,我们采用了以下基线和最先进技术:GCN、GAT、GIN、SSI-DDI、MSAN、MHCA-DDI、DSN-DDI、SA-DDI、VGAE和GMPNN,以与CADGL进行性能比较。表I报告了比较结果。CADGL在所有竞争对手中表现最佳。相关工作中讨论的一些模型并非为DDI任务而设计,同时一些代码库缺失,因此我们无法与它们进行比较。在医学研究背景下,即使是轻微的指标改进也可能具有决定生死的威力。从性能评估来看,我们相信我们的模型具有重要意义,并具有产生有意义贡献的潜力。
图3:前80个epoch的验证损失、AUROC和AUPRC分数可视化。
图4:新DDI的案例研究:(1) 齐拉西酮和瑞博西尼, (2) 司可巴比妥和阿罗洛尔, (3) 阿义马林和麦角钙化醇, (4) 特利加压素和阿米替林, (5) 曲前列尼尔和甲基苯巴比妥, (6) 卡格列净和卡维地洛。
表I:实验结果(↑) (均值±标准差)。
| 模型 | 准确率 (%) | AUROC (%) | F1 (x100) |
|---|---|---|---|
| GCN (ICLR’17) | 81.42 ± 0.19 | 89.67 ± 0.14 | 82.94 ± 0.23 |
| GIN (ICLR’19) | 96.08 ± 0.20 | 98.99 ± 0.04 | 96.18 ± 0.19 |
| GAT (ICLR’22) | 94.00 ± 0.12 | 98.13 ± 0.05 | 94.22 ± 0.12 |
| MHCA (ICML-W’19) | 78.51 ± 0.15 | 86.33 ± 0.28 | 83.31 ± 0.21 |
| SSI-DDI (BiB’19) | 96.33 ± 0.09 | 98.95 ± 0.08 | 96.38 ± 0.09 |
| GMPNN (BiB’22) | 95.30 ± 0.05 | 98.46 ± 0.01 | 95.39 ± 0.05 |
| VGAE (NIPS-W’22) | 92.12 ± 0.09 | 91.62 ± 0.14 | 89.12 ± 0.08 |
| SA-DDI (Ch.Sci.’22) | 96.23 ± 0.13 | 98.80 ± 0.08 | 96.29 ± 0.12 |
| MSAN (CIKM’22) | 97.00 ± 0.09 | 99.27 ± 0.03 | 97.04 ± 0.08 |
| DSN-DDI (BiB’23) | 96.94 ± 0.12 | 99.47 ± 0.08 | 96.93 ± 0.11 |
| Ours (CADGL) | 98.21 ± 0.17 | 99.49 ± 0.14 | 97.79 ± 0.16 |
IV-C 消融研究
IV-C1 上下文感知深度图编码器的有效性
在表II中,该研究对我们的图编码器和几个基线图编码器进行了比较。我们仅将图编码器替换为基线。在此消融研究中,潜在信息编码器和解码器与我们的模型保持一致。研究发现,我们的图编码器优于所有其他替代方案,这归功于其能够通过捕捉局部信息聚合节点特征,并通过自监督改进获取的特征。
表II:不同图编码器的比较。
| 编码器 | 准确率 (%) | AUROC (%) | F1 分数 (%) |
|---|---|---|---|
| GCN | 92.12 ± 0.09 | 91.62 ± 0.14 | 89.12 ± 0.08 |
| GAT | 94.14 ± 0.12 | 94.53 ± 0.05 | 92.22 ± 0.14 |
| SAGE | 94.83 ± 0.31 | 95.68 ± 0.24 | 93.78 ± 0.11 |
| GIN | 94.51 ± 0.13 | 95.74 ± 0.32 | 94.01 ± 0.29 |
| Ours | 98.21 ± 0.17 | 99.49 ± 0.14 | 97.79 ± 0.16 |
IV-C2 上下文预处理器的 impact
在表III中进行的消融研究强调了局部上下文处理器和分子上下文处理器在实现增强模型性能方面的重要性。MCP对分数的影响更为显著。省略任何一个处理器都会显著降低模型性能,而同时使用两者则能提高分数。
表III:每个预处理器的有效性。
| 局部CP | 分子CP | 准确率 (%) |
|---|---|---|
| ✗ | ✗ | - |
| ✓ | ✗ | 91.91 ± 0.236% |
| ✗ | ✓ | 93.662 ± 0.152% |
| ✓ | ✓ | 98.211 ± 0.171% |
图3展示了前80个epoch中不同配置下的验证损失、AUROC和AUPRC分数。结果表明,使用MCP的模型初始学习阶段较快,但很快达到稳定。相反,LCP和MCP的组合显示出相对较慢的学习速度,但随着时间的推移有更显著的改善。
IV-C3 我们VGAE的有效性
表I显示了没有VGAE的基线模型评估结果,而表II展示了有VGAE的结果。将潜在信息编码器和解码器添加到使用半监督特征提取的GCN中,显著提高了准确率,从81.42%提升到92.12%。然而,GIN编码器的生成特征效果不佳,因为它完全隔离了测试和验证节点和边,阻碍了精确映射到潜在空间。GAT优先考虑表达性节点表示,但在生成式设置中,我们的包含LCP、MCP和SSGAttn组件的图编码器实现了最优性能。
V 实验案例研究
为了产生实际影响,DDI预测模型应该能够以非常有效和高效的方式预测未被发现的新型DDI,从而加速药物开发过程。
在表IV中,我们展示了一些可能的新的DDI,以说明我们的模型准确预测潜在DDI的能力。我们使用DrugBank和ECGWave网站来获取DDI的证据并进行验证。该表还显示了一组极有可能发生但尚未临床识别的潜在DDI。我们还对这些未被发现的DDI进行了临床研究分析,探讨了它们在实际生活中发生的可能性。由于它们尚未被发现,我们将探索相关研究,以确定我们模型的预测是否与现实世界情况相符。更多示例包含在附录中。
V-A 新型DDI的临床研究分析
在这里,我们分析了一些由我们的模型识别出的新预测DDI的临床研究(如图4所示),以验证预测和模型性能,并用于药物开发:
- 齐拉西酮增加瑞博西尼的QTc延长活性。QTc延长发生在心脏在两次跳动之间需要比平时更长的时间来充电时。齐拉西酮能有效降低精神分裂症的复发率和时间,但它会延长QTc间期,并可能阻断心肌细胞中的钾通道。正如我们的模型以90.109%的置信度预测的那样,齐拉西酮与瑞博西尼的组合会增加QTc延长的风险,这意味着有可能创造出一种在这种情况下有益的新药。
- 司可巴比妥增加阿罗洛尔的降压活性。低血压是指全身血压低于可接受的低值。虽然没有公认的低血压标准值,但低于90/60的压力被认为是低血压。我们的模型(置信度为99.883%)表明,将阿罗洛尔(正在研究其作为抗高血压治疗的潜力)与具有麻醉、抗惊厥、镇静和催眠特性的司可巴比妥联合使用,可能会增加降压效果。
- 麦角钙化醇增加阿义马林的致心律失常固定活性。致心律失常活性是指物质或条件引起心律失常或异常心律的能力。阿义马林是一种1A类抗心律失常药,通过调节钠通道来增强心律,固定致心律失常问题。麦角钙化醇是维生素D的一种形式,已被证明对心血管健康有积极影响。因此,如我们的模型所指出的,增强致心律失常固定效应的可能性值得注意。
- 阿米替林降低特利加压素的抗高血压活性。药物的抗高血压活性是指药物帮助降低高血压的能力。特利加压素的药代动力学和分子特性具有一定的益处,例如在停药时预防反跳性低血压。具有镇痛作用的阿米替林可导致心电图改变和血糖水平升高。鉴于相反的输出,我们的模型关于抗高血压效果降低的建议可能是有效的。
- 甲基苯巴比妥增加曲前列尼尔的降压活性。曲前列尼尔通过抑制肺血管收缩来产生降压效果。甲基苯巴比妥通常用于治疗紧张性头痛和偏头痛,通过中枢神经系统抑制产生镇静作用。根据我们的模型,两种物质结合可能导致降压效果增强。
- 卡维地洛增加卡格列净的降糖活性。降糖活性是指药物帮助降低血糖的能力,通常用于治疗糖尿病。卡格列净已被证明可以改善2型糖尿病患者的血糖控制。在一项对复发性低血糖大鼠的研究中,发现卡维地洛可以改善低血糖意识。因此,正如我们的模型所建议的,卡维地洛有潜力增强卡格列净的降糖效果。
表IV:潜在的新DDI。
| 序号 | 药物1 (D1) | 药物2 (D2) | 相互作用类型 (t) | 发生概率 |
|---|---|---|---|---|
| **经Drug |

