鑽石舞台

這次船長的分享，是關於讀「吳恩達來信」的一些讀後感。原文鏈接請參考：

下面是船長對於吳恩達來信的一些理解，方便而言，我的內容涵蓋了吳恩達來信，讀者可以直接看我的方便消化。

首先問大家一個問題，人工智能的計算算力是什麼？答案是GPU，GPU的性能越好，算法工程師的煉丹才能越快。我們再思考一下，人工智能的成本很大程度上也是GPU所決定的，其一是GPU的電力消耗，其二是GPU本身的成本價格，無論是租來的GPU，還是買來的GPU，都需要考慮它那高昂的成本。一塊兒普通的GPU在幾千RMB，貴一點的在幾萬，到幾十萬都有。

圖1：以太坊合併完成

在9月份的時候，有一個爆炸性的新聞（圖1），就是以太坊合併。這種轉變能夠大大降低對於能源的消耗，並且提升GPU的計算效率。可以這麼簡單的理解，之前大家都是自己買GPU去挖礦，之後直接在以太坊用幣來買算力挖礦即可。

具體來說：用戶無需再和以前一樣，購入顯卡和礦機等硬件，僅需要在軟件層質押ETH（以太幣），即可參與以太坊挖礦。簡單來說：之後只需要一台聯網的筆記本電腦，即可參與挖礦，這將大大增加質押者或者挖礦者的數量，從而實現更加去中心化。

對於GPU本身的價格而言，英偉達首席執行官黃仁勛近日宣布，預計芯片價格下跌的時代已經結束。為什麼這麼說呢？是因為英偉達認為自己更新的速度已經超出了摩爾定律。

摩爾定律是什麼？

之前外界經常以為，硅的某一特定區域內安裝的晶體管數量翻一番，在兩年的時間內。換句話來說，就是兩年的時間，同一塊板子上就多放一倍的硅，去做更多的複雜邏輯。這點也是業內著名的摩爾定律。

圖2：摩爾定律

這點也就會陷入一種僵局，也會迫使GPU，CPU等在不斷地往精細化發展，上面的電路也變得越來越微小，包含的邏輯也越來越多。為什麼叫做僵局呢？是因為板子就那麼大，能放的電路數目肯定是有個極限值的，我們不能一直去疊加電路。

但是英特爾對於GPU的迭代速度已經超出了摩爾定律，因為英偉達已經優化了其GPU芯片以處理神經網絡，而用於處理更大編程範圍的CPU的改進速度已經落後。因此，即使芯片製造商無法用晶體管更密集地封裝硅，芯片設計者也可以持續進行優化以提高AI的性價比。

這點怎麼去理解呢？相信大家在看手機發布會的時候，總會有人說他的計算速度提升了100%等等，這個就是優化後的速率，我們本身並沒有升級芯片的硬件，而是升級「軟件」，讓芯片做的更加的高效。

上述說的，對於人工智能工作者來講，就是生產的成本會逐年降低。不過，在全球的視角來看，是對於芯片的生產和需求出現波動。之後的人工智能，逐年的變化就是做實驗變得很方便，不會像前幾年一樣訓練一個簡單的LSTM都要很久。

近年來，半導體初創公司經歷了一段艱難的時期，因為老大「英特爾」太卷了，它開始研發更便宜，性價比更高的產品，而這種產品往往是半導體初創公司研發的重點。另外，人工智能加速器行業仍舊是朝氣蓬勃的，這種加速當然也包括對於GPU運算速度的提升，本質上會使得公司脫離「摩爾定律」的速度變得更快，變得更有競爭力。

而隨着越來越多便宜，並且快速的芯片的出現，為雲端和邊緣設備的計算，帶來一個好的開端。下面船長來簡單介紹下雲端計算和邊緣計算的內容。

雲端計算是什麼？

毋庸置疑，例如某里雲，騰某雲等等，把訓練模型的代碼跑在了線上，利用線上多卡且快速的友好環境快速的訓練模型。比方說預訓練模型，如果單張卡可能需要跑一個月，但是如果用服務器上一百張卡來跑，可能最多也就幾天，就會有一個不錯的結果。

圖3：雲計算框架圖

邊緣計算是什麼？

邊緣計算的核心，就是邊緣，就是一些終端的設備。如果把雲比作中心，那麼邊緣就是用戶的設備，比如手機，家裡的掃地機器人，智能燈泡等等。邊緣計算是指在終端上算的差不多，然後再丟給服務器去進行運算，這種技術對於隱私的保護往往有很好的效果。

比如模型需要用戶的人臉圖片進行訓練，但是我們又不想陷入那種尷尬的境地，不想問用戶要他的人臉圖片來訓練，那這時候，邊緣計算可以先把人臉圖片處理成為向量的方式，再傳到雲端進行聯合訓練。在處理成為向量的時候，是不可逆的，也就能保護用戶的隱私泄露。

圖4：邊緣計算框架圖

進技術交流群請添加AINLP小助手微信（id:ainlp2)

關於AINLP

AINLP 是一個有趣有AI的自然語言處理社區，專注於 AI、NLP、機器學習、深度學習、推薦算法等相關技術的分享，主題包括文本摘要、智能問答、聊天機器人、機器翻譯、自動生成、知識圖譜、預訓練模型、推薦系統、計算廣告、招聘信息、求職經驗分享等，歡迎關注！加技術交流群請添加AINLP小助手微信(id：ainlp2)，備註工作/研究方向+加群目的。

閱讀至此了，分享、點讚、在看三選一吧🙏