kobo-ideas / 009

ディープラーニング インタラクティブ可視化

ニューラルネットの中核概念を、ブラウザでパラメータを動かして体感する POC 集。

基礎概念

学習

勾配降下法

損失曲線を下るボール。学習率の大小と局所最適への落ち込みを体感。

開く →
ニューロン

パーセプトロン

2 クラスを 1 本の直線で分ける境界を「間違えたら直す」で学習。

開く →
CNN

畳み込み演算

カーネルが画像をスライドし特徴マップを作る。エッジ検出など。

開く →

Transformer / Attention

Attention

Self-Attention(Matrix 版)

Q・K・V の内積と softmax で重みが決まる過程を行列で表示。

開く →
Attention

Self-Attention(視線メタファー版)

各単語がどこを「見ている」かで Attention を素人向けに表現。

開く →
Attention

Self-Attention(二部グラフ版)

Query と Key を二部グラフで結び、注目の強さを線の太さで表現。

開く →
Attention

Multi-Head Attention

4 つのヘッドがそれぞれ異なる関係を捉える様子。

開く →