新智元報道
來源：專知
TheWebConf是中國計算機學會（CCF）推薦的A類國際學術會議，由國際萬維網會議委員會（IW3C2）和主辦地地方團隊合作組織，每年召開一次，今年是第31屆會議，本年度論文錄用率為17.7%，
圖是普遍存在的數據結構，廣泛應用於許多數據存儲場景，包括社交網絡、推薦系統、知識圖譜和電子商務。這導致了GNN架構的興起，用於分析和編碼來自圖的信息，以便在下游任務中獲得更好的性能。
雖然圖分析領域的初步研究是由神經結構驅動的，但最近的研究已經揭示了圖數據集特有的重要屬性，如層次結構和全局結構。這推動了對雙曲空間的研究，因為它們能夠有效地編碼圖數據集中存在的固有層次。
隨後，該研究也被應用到其他領域，如自然語言處理和計算機視覺，取得了令人驚嘆的結果。然而，進一步發展的主要挑戰是雙曲網絡的晦澀，以及更好地理解必要的代數操作，以擴大應用到不同的神經網絡結構。
在本教程中，我們的目標是向網絡領域的研究人員和實踐者介紹歐幾里得運算的雙曲等變，這是處理它們在神經網絡架構中的應用所必需的。
此外，我們描述了GNN架構的流行雙曲線變體，如遞歸網絡、卷積網絡和注意力網絡，並解釋了它們的實現，而不是歐幾里得網絡。
此外，我們還通過圖分析、知識圖譜推理、產品搜索、NLP和計算機視覺等領域的現有應用來激發我們的教程，並將性能提高與歐幾里得的同類方法進行比較。
演講內容
目錄
結構
講者介紹
Nurendra Choudhary是弗吉尼亞理工大學計算機科學系的博士生，在導師Chandan Reddy博士的指導下，他的研究重點是圖分析和產品搜索領域的表示學習。
他在WWW、NeurIPS、WSDM和COLING等頂級會議上發表相關論文。他獲得了國際信息技術學院計算語言學碩士學位，期間他獲得了2018年CICLING的最佳論文獎。
Nikhil Rao是亞馬遜的一名高級科學家，他在那裡從事大規模圖建模和算法的研究，以改進亞馬遜搜索。在加入亞馬遜之前，他是帕洛阿爾托Technicolor AI Labs的研究員。
Nikhil的研究興趣和專長包括大規模優化、數據建模和挖掘，以及開發利用數據結構的算法。Nikhil在頂級會議和期刊上發表了幾篇論文。他獲得了來自UT Austin的ICES博士後獎學金和IEEE最佳學生論文獎。他擁有UW Madison的電氣和計算機工程博士學位。
Karthik Subbian是亞馬遜的首席科學家，擁有超過17年的行業經驗。他領導着一個由科學家和工程師組成的團隊來提高搜索質量和信任度。
在亞馬遜，他領導了一個由科學家和工程師組成的團隊，利用社交網絡結構及其交互來探索信息傳播和用戶建模問題。此前，他在IBM T.J. Watson研究中心的商業分析和數學科學部門工作，他曾是Facebook的一名研究科學家和負責人。
他的專業領域包括機器學習、信息檢索和大規模網絡分析。更具體地說，網絡中的半監督和監督學習、個性化和推薦、信息擴散和表示學習。他擁有印度科學研究所(IISc)的碩士學位和明尼蘇達大學的博士學位，都是計算機科學專業。
Karthik獲得了許多著名獎項，包括IBM博士獎學金、2013年SIAM數據挖掘(SDM)會議的最佳論文獎和2013年INFORMS Edelman桂冠獎。
教程節選
參考資料：
[1]Code Library: GraphZoo: Facilitating learning, using, and designing graph processing pipelines/models systematically.
[2]Choudhary, N., Rao, N., Katariya, S., Subbian, K., & Reddy, C. K. (2022, February). ANTHEM: Attentive Hyperbolic Entity Model for Product Search. In Proceedings of the International Conference on Web Search and Data Mining 2022. (pdf)
[3]Choudhary, N., Rao, N., Katariya, S., Subbian, K., & Reddy, C. (2021). Probabilistic Entity Representation Model for Reasoning over Knowledge Graphs. Advances in Neural Information Processing Systems, 34. (pdf)
[4]Choudhary, N., Rao, N., Katariya, S., Subbian, K., & Reddy, C. K. (2021, April). Self-Supervised Hyperboloid Representations from Logical Queries over Knowledge Graphs. In Proceedings of the Web Conference 2021 (pp. 1373-1384). (pdf)
[5]Chami, I., Ying, Z., Ré, C., & Leskovec, J. (2019). Hyperbolic graph convolutional neural networks. Advances in neural information processing systems, 32, 4868-4879. (pdf) Ganea, O. E., Bécigneul, G., & Hofmann, T. (2018). Hyperbolic neural networks. Advances in neural information processing systems, 5345-5355. (pdf) Shimizu, R., Mukuta, Y., & Harada, T. (2021). Hyperbolic neural networks++. Interna
留言列表