08/19(土) Nagoya.Swift勉強会で、勉強しました。
『ゼロから作るDeep Learning』
- 3時間
- 19ページ(123-142P)
- 5.1-5.5.1章
学んだこと
- 計算グラフの特徴：「局所的な計算」を伝搬することによって最終的な結果を得ることができる
- 計算グラフを使う理由：逆方向の伝搬によって「微分」を効率よく計算できる
- 連鎖率：合成関数の微分についての性質
- 加算の逆伝搬：上流の値をただ下流に流すだけ。順伝搬の入力信号の値は不要
- 乗算の逆伝搬：順伝搬のときの入力信号の値が必要。
- ReLUレイヤ
- Sigmoidレイヤ
- Deep Learningの勉強に、Udacityの「Deep Learning by Google」で参考になるらしい。字幕も日本語にできる。 Udacity
Python
pass文は何もしないことを表す。
4. その他の制御フローツール — Python 3.6.1 ドキュメント Pythonのpass文の使い方 | UX MILKnumpy.arrayでは、Boolean Arrayをマスクとして使える
# ReLU {y=x(x>0), y=0 (x<=0)} 変換 original = np.array([2, 0, -2]) mask = original <= 0 print(mask) # ⇒ [False True True] masked = original.copy() masked[mask] = 0 print(masked) # ⇒ [2 0 0]
疑問
ReLUを使う理由。場合分けが扱いにくい気がする。
⇒ 活性化関数ReLUについてとReLU一族【追記あり】 - Qiita二乗誤差でなく交差エントロピー誤差を使う理由。
HackMDを使って、スライドを作成
はじめてHackMDを使いました。 Tensorflow Tutorialを試してみて - HackMD
- 約4時間
HackMDとは？
- HackMDは、 Markdownで書いたDocumentを複数人で編集でき、リアルタイムプレビューが可能なツール
- 数式やUML図なども書ける。
- 画像もクリップボードから貼り付けられる。
- 自動で保存して、履歴管理もしてくれる
- スライドモード、ブックモードがある
- スライドモードのときは、縦スクロールバーが出ない（Qiitaは出る）
- HTMLタグなどで、細かいレイアウトを修正できる(Qiitaはできない)
reveal.jsとは?
- HTMLタグを使って、簡単にプレゼンできるツール
- https://github.com/hakimel/reveal.js/
- https://hackmd.io/s/NJhm2CHEx
感想
- クリップボードからの画像貼り付けは便利！
- HackMDは「自分の書いた文書」というより「みんなで修正するもの」という感覚.
- レイアウト気にしないなら、Qiitaスライモードの方がよいかな？検索されやすいし。
