>100 Views
June 01, 18
スライド概要
2017/11/27
Deep Learning JP:
http://deeplearning.jp/seminar-2/
DL輪読会資料
% "$ & !#
�� n�� ���������� ���������� ����������� ��������� ��������������������������� ����������������� �������� ���������� ������������������ ������������������� ����������������������� ������������������������ ��������������������������������������
D9,(*2%
• D9+./0,(*2%
–
– ;4?*-1&$8)'>5:#"!+./0,(*2%
•
3@B)'<C)'
– = AD9$76
)"$! • • – #$!)"&('% I : K : : 2
#
• %-!'0)"0),($.+&*/
+
-"
&=3
S3 !$. (receptive field)
-"
*%!$.#
> )%!$.#
*%
"
/(,
-
"% 1 $ ! # 1!
• /
#&$%-
!,
"
(*
+'
.
)
320x280
319x280
http://www.deeplearningbook.org/slides/09_conv.pdf
畳み込み
全結合
畳み込みによる効率性
要素数
2
319*280*320*280 > 80億
1 / 40億
演算数 (乗算, 加算)
319*280*3 = 267,960
> 160億
1 / 6万
<8;6=?
• WM+G#2
– 2IPZS
FJUL!$DB+AJEX+UL#2
•
*1. ) -ZS
•
\/R/ FJ36:9#2IP
– FJ@,QK3WM AJ,NO-E"C% WM
• \/R/-T[,75>?40HV)&$UY+G!'-ZS(-*
• ! –
"#%
•
– ).! $(*86(*-+2/417
– :509',&(*3
http://cs231n.github.io/convolutional-networks/
),-$
• L:3
;H<
– 27!@IH8),-$4"/7MH8
– DS. FTPQAEDS.FT NG
6B
10K=5L:3 RV<C9
"
"
(#!
• (+*'>O?
• JH%#&27!U
)
• % – , !/ * 0#"$ – . )("$ &' – - &' 1+
��� ����������������������� • ���������������������������������� ������������������ – ������ ���������������������������� – ������ ���������������������������� – ���������������������������������������� ���������� • ����������������������������������� ����� – ����������������� – ��������������������������������������� ��������
1%'>0(,56
• "
-*>0
– 9?4;:2<=
.37/
8+>0(,&)
$$!#$
stride=2
-&(2,)+/0
• !$#"%
– '* 1.
valid:
same:
��� ������������� • ������������������������� – ������� ��������������������� – ��������������������������������������� ������� ��������� &, =2 - & % - )! (# '") $(, & =2
1%*;/+-36
•
– 4)&2:(,5,0'98#$!.
– 678 "$
, 2
-
��� ���� • �������������������������� – ������������ – ������� ���������������������������� $"% & ! → 10# $
��� ������ • ������������������ 単一チャネル 複数チャネル 1次元 音声波形 スケルトンのアニメーションデータ 2次元 フーリエ変換で事前処理された音声データ カラー画像データ 3次元 体積データ カラー動画データ • �))������������������������� – (�� ������������������ – )�� �������� ������������������������������� ���
LF:$R'D'*5+4,0
•
– /31-A%PC
–
–
(https://qiita.com/yu4u/items/34cd33b944d8bdca142d)
• 2.5%Q<)O$!#$ R'D'G?)8M>"(9;%=7&E7$
INKJ
H6:B@
AD;@"2#-SX*&T\V
•
,T\V,JY-^Z,89=$F#
• SX"1JY4NI('+_.Q.6!>B4R/2
*T\V,LP
AD;@+OKH%3)?5B:
SX*&JY+016!>B4JY
• *`]EGJY
• W[_.Q.MU><=C!7
���� ������������������ • ������I ������������ • �������C��� ���������� ���� �������� ������������������������� ��������� ��������� �������� ��������� ������������ �� ������������� �������������� ������� • �������� ������ ��� – ����C ��������������IC���
���� ������������������ ������������������� • ����������� – ��� ���������������������F – ����������������������F – �������������������F – ������ ������������F – ��������� ���������������������������������F • ������� �����������������������������F • ��� – ����������������������������������� ����vowF – ���������������������������������������������
n3R3@<>E;1YJaKHSk
•
– ^dic0G(7?BDF1[NI:M6\%*Q`-U_
– ?BDF1P31Wj:V47
–
07fm1O+P3
• LlKeA=C#Ke'*]h.
-Z987]h2^dH0bj
– g0&!'*]h#T58, / /5)1A=C
2Ke-$, /
.X"587
����������������������� • ������������������������������������ • ������������������������������ – �������������������������� • �������� �������������������������������������������������� – ������� ����������� ������������ ��������������������� • ����������������������������������� – ����� ����������������������������������� – )��� �������� ������� ������
ecdj • ������������� – ���������������������� ����������������������� – ���� ���������������������������������������������������������� �������������������������������� • ����������������������������������������������������������� – ��������������������������� ������������������������������