關(guān)系圖卷積網(wǎng)絡(luò)(RGCNs)是GCNS對關(guān)系圖域的一種擴展。本文以RGCN為出發(fā)點，研究了一類關(guān)系圖注意力網(wǎng)絡(luò)(RGATs)模型，將關(guān)注機制擴展到關(guān)系圖域。
作者 | Dan Busbridge, Dane Sherburn, Pietro Cavallo & Nils Y. Hammerla
編譯 | Xiaowen
【論文便捷下載】
請關(guān)注專知公眾號（點擊上方藍色專知關(guān)注）
后臺回復(fù)“RGAT”就可以獲取《關(guān)系圖注意力網(wǎng)絡(luò)》的論文PDF下載鏈接~
我們研究了關(guān)系圖注意力網(wǎng)絡(luò)，這類模型擴展了非關(guān)系圖的注意力機制以合并關(guān)系信息，從而為更廣泛的問題開辟了一些方法。我們對這些模型進行了徹底的評估，并與既定的基準(zhǔn)進行了比較。為了提供一個有意義的比較，我們重新訓(xùn)練了關(guān)系圖卷積網(wǎng)絡(luò)（Relational Graph Convolutional Networks），即關(guān)系圖注意力網(wǎng)絡(luò)的譜對應(yīng)體（spectral counterpartof Relational Graph Attention Networks），并在相同的條件下對它們進行了評價。我們發(fā)現(xiàn)關(guān)系圖注意力網(wǎng)絡(luò)的性能比預(yù)期差，盡管一些配置對模擬分子特性有一定的幫助。我們對此提出了見解，并建議對評價戰(zhàn)略的修改，以及今后工作的研究方向。
本文以RGCN為出發(fā)點，研究了一類關(guān)系圖注意力網(wǎng)絡(luò)(RGATs)模型，將關(guān)注機制擴展到關(guān)系圖域。我們考慮兩個變體，內(nèi)部關(guān)系圖注意力(WIRGAT)和跨關(guān)系圖注意力(ARGAT)，每個變量都具有加性和乘性注意力。我們進行了廣泛的超參數(shù)搜索，并對具有挑戰(zhàn)性的傳感器節(jié)點分類和歸納圖分類任務(wù)進行了評估。將這些模型與已建立的基準(zhǔn)以及重新調(diào)整的RGCN模型進行比較。
內(nèi)部關(guān)系圖注意力(WIRGAT)結(jié)構(gòu)圖
跨關(guān)系圖注意力(ARGAT)
結(jié)點分類任務(wù)
