7月30日，首都師範大學樊磊教授和北京教育學院張香玲老師在元卓學堂與老師們進行了分享交流，分享的題目是「機器學習第六講：循環神經網絡」和「從零構建知識圖譜」。
樊教授講解了循環神經網絡（RNN）以及長短程記憶網絡（LSTM）這兩種神經網絡架構。循環神經網絡是近年來被廣泛關注的網絡模型，而LSTM則是RNN無法解決長期依賴問題的補充。樊教授提到，循環神經網絡與卷積神經網絡基本是在同一時期開始流行的，只不過二者在應用範圍方面有所區別，卷積神經網絡主要應用於圖像處理，而循環神經網絡多用於自然語言處理方面，即此結構更適用於輸入連續的數據。
樊教授以手寫體識別問題為例展示了循環網絡的PyTorch實現，詳細介紹了一個基於字符的預測模型，可基於以前的字符嘗試預測隨後的字符以形成有意義的文本。該模型首先創建正確的元音-輔音序列、單詞，最終模仿人類所構造的句子和段落。
預測模型的訓練
拓展閱讀：循環神經網絡概述
循環神經網絡（Recurrent Neural Network, RNN）是一類以序列（sequence）數據為輸入，在序列的演進方向進行遞歸（recursion）且所有節點（循環單元）按鏈式連接的遞歸神經網絡（recursive neural network）。
對循環神經網絡的研究始於二十世紀80-90年代，並在二十一世紀初發展為深度學習（deep learning）算法之一，其中雙向循環神經網絡（Bidirectional RNN, Bi-RNN）和長短期記憶網絡（Long Short-Term Memory networks，LSTM）是常見的循環神經網絡。
循環神經網絡具有記憶性、參數共享並且圖靈完備（Turing completeness），因此在對序列的非線性特徵進行學習時具有一定優勢。循環神經網絡在自然語言處理（Natural Language Processing, NLP），例如語音識別、語言建模、機器翻譯等領域有應用，也被用於各類時間序列預報。引入了卷積神經網絡（Convolutional Neural Network,CNN）構築的循環神經網絡可以處理包含序列輸入的計算機視覺問題。
張香玲老師介紹了知識圖譜的相關概念、知識圖譜與思維導圖的異同點，並以具體案例幫助大家加深對知識的理解，通過頭腦風暴的形式引導參會老師們體驗手動構建知識圖譜的過程，向大家介紹了知識圖譜的智能構建技術。
知識圖譜概念
拓展閱讀：知識圖譜概述
知識圖譜（Knowledge Graph），在圖書情報界稱為知識域可視化或知識領域映射地圖，是顯示知識發展進程與結構關係的一系列各種不同的圖形，用可視化技術描述知識資源及其載體，挖掘、分析、構建、繪製和顯示知識及它們之間的相互聯繫。
知識圖譜，是通過將應用數學、圖形學、信息可視化技術、信息科學等學科的理論與方法與計量學引文分析、共現分析等方法結合，並利用可視化的圖譜形象地展示學科的核心結構、發展歷史、前沿領域以及整體知識架構達到多學科融合目的的現代理論，能為學科研究提供切實的、有價值的參考。
//
張香玲老師與聽眾交流
Q：知識圖譜可以做到個性化定製嗎？如面向對象為大學生，進行學科學習時有自己的知識結構，是否能夠以知識圖譜的形式展現自己的知識結構？
A：是可以的。大連理工的一個團隊就是讓學生在學習完Java語言後將相關知識構建成知識圖譜，因此下一屆的學生在學習時就能基於此進行補充與完善。
Q：如果能做到學生個性化定製自己的知識圖譜，那麼後期是否能夠做到通過如知識追蹤相關算法幫助他們學習？
A：是的。老師們可以看到此次分享的知識圖譜構建不是針對教育領域的，而是針對常識問題的知識圖譜，那麼下次分享將聚焦於教育領域的知識圖譜構建。實際上教育領域的知識圖譜構建是較為困難的，難點在於很多知識不是只用三元組就能夠表達的，具體內容將在下期與老師們分享。
Q：社交網絡分析和知識圖譜是從屬關係嗎？
A：這個我還沒想好。社交網絡分析現有的相關研究有很多也很精細，但我目前不太認為可以把二者定義為從屬關係。
Q：數據庫可視化一般使用什麼工具？
A：DBLP、Miner平台、EChart平台都可以。
本期視頻回放及相關資料，請訪問元卓計劃官方網站https://yuanzhuo.bnu.edu.cn/course/150或點擊文末閱讀原文獲取。往期視頻回放及相關資料也均已上傳，請訪問元卓計劃官方網站https://yuanzhuo.bnu.edu.cn獲取。
歡迎老師們繼續通過元卓計劃平台交流互鑒、共同進步。
掃碼加入元卓計劃社區，獲取最新資訊
為您提供研究院的最新資訊與科研動態。研究院廣納賢才，加入我們請發簡歷至郵箱：smartlearning@bnu.edu.cn
留言列表