ゆとりCODE

情報系大学生→留年→某SIer(1年目) 仕事(SE)、機械学習・AI、副業とか

2章 パーセプトロンとは?

オライリージャパン「0から作るDeep Learning」2章を読んだので健忘録として

f:id:ojipon:20190519100429j:plain

■目的


 パーセプトロンの基礎知識を学ぶ

 

■理由


 パーセプトロンはニューラルネットワークの起源となるアルゴリズムだから

■内容


 1. パーセプトロン(perceptron)とは?


複数の信号が入力される
それぞれの信号に、各信号の重要性をしめす重みづけがされる
重みづけ後の信号の合計値が閾値Θを越えれば発火(1を出力)、超えなければ(0を出力)

2. 論理回路


AND,OR,NAND,XORゲートをパーセプトロンを用いて実装する。

コード置き場:https://github.com/oji-pon/create_DeepLearning_from0
ソースコード:Perceptron.py

 

線形領域:AND,OR,NAND
 → 1層のパーセプトロンで実装可能
非線形領域:XOR
 → 1層では実装不可、2層にすることで可能

層を重ねることで柔軟に表現できる
理論的には2層のパーセプトロンで任意の関数を表現可能
(活性化関数にシグモイド関数を用いる)