2章 パーセプトロンとは?
オライリージャパン「0から作るDeep Learning」2章を読んだので健忘録として
■目的
パーセプトロンの基礎知識を学ぶ
■理由
パーセプトロンはニューラルネットワークの起源となるアルゴリズムだから
■内容
1. パーセプトロン(perceptron)とは?
複数の信号が入力される
それぞれの信号に、各信号の重要性をしめす重みづけがされる
重みづけ後の信号の合計値が閾値Θを越えれば発火(1を出力)、超えなければ(0を出力)
2. 論理回路
AND,OR,NAND,XORゲートをパーセプトロンを用いて実装する。
コード置き場:https://github.com/oji-pon/create_DeepLearning_from0
ソースコード:Perceptron.py
線形領域:AND,OR,NAND
→ 1層のパーセプトロンで実装可能
非線形領域:XOR
→ 1層では実装不可、2層にすることで可能
層を重ねることで柔軟に表現できる
理論的には2層のパーセプトロンで任意の関数を表現可能
(活性化関数にシグモイド関数を用いる)