Deep Learning 101, Taiwan’s pioneering and highest deep learning meetup, launched on 2016/11/11 @ 83F, Taipei 101
AI是一條孤獨且充滿惶恐及未知的旅程,花俏絢麗的收費課程或活動絕非通往成功的捷徑。
衷心感謝當時來自不同單位的AI同好參與者實名分享的寶貴經驗;如欲移除資訊還請告知。
由 TonTon Huang Ph.D. 發起,及其當時任職公司(台灣雪豹科技)無償贊助場地及茶水點心。
去 YouTube 訂閱 | Facebook | 回 GitHub Pages | 到 GitHub 點星 | 網站 | 到 Hugging Face Space 按愛心
分享者:Jiero Ho | 日期:2018/07/06
從研究的視角來看,區塊鏈技術,特別是智能合約的普及,帶來了新的安全挑戰。資料顯示,僅在 2018 年上半年,全球區塊鏈行業因攻擊事件造成的損失就高達 11.5 億美元,這已經超過了 2016 年全年的總和,可見問題的嚴重性。對於初學者來說,了解這些風險是進入該領域研究的第一步。
針對這些安全問題,學術界和業界都在積極探索審計(Audit)方法。審計就是對智能合約程式碼進行安全審查。傳統的方法可能包括靜態分析、符號執行或邏輯驗證。
資料中特別介紹了一種結合深度學習的方法,稱作 R2D2 方法,用於智能合約安全檢測。其核心思想是將智能合約的位元碼(bytecode,編譯後的機器碼形式)轉換成彩色圖片進行分析。具體做法是將位元碼中特定的數值對應到 RGB 顏色值(例如 606060 轉成 969696)。然後將整個位元碼掃描並生成一張彩色圖片。接著,利用訓練好的深度學習模型(基於 CNN)來識別圖片中的特徵模式,從而判斷合約是否存在已知的安全漏洞或問題。這種方法的優勢在於,被標記為有問題的合約通常確實存在問題,信任度較高,這與傳統防毒軟體識別的不確定性不同。
為了協助使用者評估 ICO 和智能合約的安全性,存在如 rating.io (ingpocket.net) 這樣的平台。該平台提供多方面的評估功能:
對於初入區塊鏈安全領域的研究者,了解這些基本概念、常見攻擊類型以及現有的檢測和評估工具,是開展進一步研究的基礎。
卷積神經網路(CNN)在圖像識別領域取得了巨大成功,甚至在 ImageNet 等比賽中超越了人類平均水平。然而,這項技術也面臨著一些瓶頸和挑戰,引發了學術界對其局限性的反思,甚至有人提出了「深度學習的冬天來了」的觀點。
Geoffrey Hinton,這位在深度學習領域舉足輕重的人物,也是 CNN 的批評者之一。他對 CNN 在處理空間層次關係和物體變形上的不足表示擔憂,並早在 2011 年就提出了「膠囊網路」(Capsule Network)的初步想法,包含 Autoencoder 的概念,旨在克服 CNN 的這些局限性。
膠囊網路是一種新型的神經網路架構,其核心思想是用「膠囊」(Capsule)取代傳統神經網路中的標量神經元。一個膠囊的輸出不再是一個單一的數值,而是一個向量(Activation Vectors)。這個向量的「長度」代表了該向量所表示的實體(如物體或物體的一部分)存在的機率(通常被約束在 0 到 1 之間),而向量的「方向」則代表了實體的各種「屬性」(如位置、角度、大小、變形程度甚至顏色等)。
膠囊網路的目標是實現對物體變形的「等變性」(Equivariance),而非 CNN 的等價性。這意味著當物體發生變形時,其膠囊表示的向量也會以可預測的方式隨之變動。這使得膠囊網路有望在看到少量不同變形的樣本後,就能理解該物體的各種變形姿態,從而可能只需要比 CNN 少得多的資料就能進行訓練。
從研究生的角度來看,膠囊網路代表了後 CNN 時代,研究者探索新神經網路架構的一種方向。理解其動機、核心思想與工作原理,對於未來在機器學習領域進行創新和解決實際問題具有啟發意義。
除了區塊鏈安全和膠囊網路,資料中也提及了一些其他值得關注的技術活動和研究方向,這反映了當前技術領域的熱點:
總體而言,這些活動和研究方向都指向了當前技術的前沿:智能合約安全、新型神經網路、語音識別、圖像生成、物聯網、推薦系統等。對於研究人員和初學者而言,了解這些領域的發展動態,積極參與社群交流和實踐活動,是拓展視野和提升能力的重要途徑。