๋ณธ๋ฌธ ๋ฐ”๋กœ๊ฐ€๊ธฐ
โœ’๏ธ GURU/AI

[AI] ์ธ๊ณต์‹ ๊ฒฝ๋ง๊ณผ ์ธ๊ณต์‹ ๊ฒฝ๋ง ๊ตฌ์กฐ, ํผ์…‰ํŠธ๋ก  ๊ธฐ๋ณธ์‹, ๋‹ค์ธต ํผ์…‰ํŠธ๋ก (MLP, Multi-Layer Perception)๊ณผ ๋”ฅ๋Ÿฌ๋‹

by A Lim Han 2022. 7. 24.

3. ์ธ๊ณต์‹ ๊ฒฝ๋ง + ํผ์…‰ํŠธ๋ก  ๊ธฐ๋ณธ์‹ + ๋‹ค์ธต ํผ์…‰ํŠธ๋ก ๊ณผ ๋”ฅ๋Ÿฌ๋‹

 

 

 

# ์ธ๊ณต์‹ ๊ฒฝ๋ง

: ์ธ๊ฐ„์˜ ๋‡Œ ๊ตฌ์กฐ์— ์ฐฉ์•ˆํ•ด ๋งŒ๋“  ํ•™์Šต๋ฒ•์œผ๋กœ, ์ธ๊ฐ„์˜ ๋‡Œ ๊ตฌ์กฐ๋ฅผ ํ‰๋‚ด ๋‚ธ๋‹ค.

 

- ๋‡Œ์˜ ๋™์ž‘ ๋ฐฉ์‹์„ ๋ชจ๋ธํ™”ํ•œ ๋ณ‘๋ ฌ ์ฒ˜๋ฆฌ ์‹œ์Šคํ…œ์œผ๋กœ, ๋‹จ์ˆœํ•œ ์—ฐ์‚ฐ์„ ์ˆ˜ํ–‰ํ•˜๋Š” ์†Œ์ž๋“ค์˜ ๋ถ„์‚ฐ ์ฒ˜๋ฆฌ ๋ฐ ๋ณ‘๋ ฌ ๊ตฌ์กฐ๋ฅผ ๊ฐ€์ง€๊ณ  ์žˆ๋‹ค.

 

 

 

 

# ์ธ๊ณต์‹ ๊ฒฝ๋ง์˜ ๊ตฌ์กฐ

์ธ๊ณต์‹ ๊ฒฝ๋ง์€ ๋‰ด๋Ÿฐ์˜ ๋™์ž‘ ๋ฐฉ์‹์„ ๋ชจ๋ธ๋งํ•ด ๊ตฌํ˜„๋˜์—ˆ๋‹ค.

 

 

- ์ธ๊ณต์‹ ๊ฒฝ๋ง์—์„œ๋Š” ๋™๊ทธ๋ž€ ์›์ด ํ•˜๋‚˜์˜ ๋‰ด๋Ÿฐ์ด ๋˜๊ณ , ์ด๋“ค์ด ์„œ๋กœ ์—ฐ๊ฒฐ๋˜์–ด ํ•˜๋‚˜์˜ ์‹ ๊ฒฝ๋ง์„ ์ด๋ฃฌ๋‹ค.

 

์ž…๋ ฅ์ธต ๋…ธ๋“œ์— ๋ฐ์ดํ„ฐ๊ฐ€ ์ž…๋ ฅ๋˜๋ฉด ์˜ค๋ฅธ์ชฝ ๋ฐฉํ–ฅ์œผ๋กœ ๋‹จ๊ณ„๋ณ„ ์—ฐ์‚ฐ์„ ์ˆ˜ํ–‰ํ•ด ์ถœ๋ ฅ์ธต์—์„œ ๊ฒฐ๊ณผ๊ฐ’์„ ์–ป๋Š”๋‹ค.

 

 

 

 

# ํผ์…‰ํŠธ๋ก  - ๊ธฐ๋ณธ์‹

: ์ธ๊ฐ„์˜ ๋‡Œ๋ฅผ ๊ตฌ์„ฑํ•˜๋Š” ๋‰ด๋Ÿฐ, ์‹œ๋ƒ…์Šค์˜ ๋™์ž‘ ๋ฐฉ์‹์„ ๋ชจ๋ธ๋งํ•œ ๊ทธ๋ฆผ

 

- X ๋…ธ๋“œ๋Š” ๋ฐ์ดํ„ฐ๋ฅผ ๋ฐ›๋Š” ์ž…๋ ฅ์ธต ๋…ธ๋“œ, Y๋Š” ์ถœ๋ ฅ์ธต ๋…ธ๋“œ์ด๋‹ค. ์ด ๋‘ ๋…ธ๋“œํ‹‘ ๊ฐ€์ค‘์น˜(W, Weight)๊ฐ’์œผ๋กœ ์—ฐ๊ฒฐ๋œ๋‹ค.

- ์ถœ๋ ฅ์ธต์˜ ๋…ธ๋“œ๋Š” ๊ฐ๊ฐ์˜ ์ž…๋ ฅ ๊ฐ’์— ๊ฐ€์ค‘์น˜๋ฅผ ๊ณฑํ•œ ๊ฐ’์„ ํ•ฉํ•ด ์ตœ์ข…๊ฒฐ๊ณผ๊ฐ’์„ ์ƒ์„ฑํ•œ๋‹ค. (T = ์ž„๊ณ„์น˜ : ๊ฐ€์ค‘ํ•ฉ๋œ ๊ฒฐ๊ณผ์™€ ๋น„๊ตํ•ด์„œ ์ถœ๋ ฅ๊ฐ’ ์ง€์ •)

๋‹จ ์œ„์˜ ์‹๋งŒ์œผ๋กœ๋Š” ์ตœ์ข… ์ถœ๋ ฅ ๊ฐ’์˜ ๋ฒ”์œ„๋ฅผ ์ •ํ•  ์ˆ˜ ์—†๋‹ค.                                -> ์ตœ์ข… ์ถœ๋ ฅ๊ฐ’์„ ํ™œ์„ฑํ™” ํ•จ์ˆ˜์— ๋„ฃ์–ด ์ผ์ • ๋ฒ”์œ„๊ฐ’์œผ๋กœ ์กฐ์ ˆํ•ด์•ผ ํ•œ๋‹ค.

 

+ ํ™œ์„ฑํ™” ํ•จ์ˆ˜ f๋ฅผ ๊ตฌํ•  ๋•Œ๋Š” ๊ณ„๋‹จ ํ•จ์ˆ˜(-1~+1 , 0~+1๊นŒ์ง€์˜ ๊ฐ’์„ ์ถœ๋ ฅํ•˜๋„๋ก ๊ตฌํ˜„๋œ ํ•จ์ˆ˜)๋ฅผ ์‚ฌ์šฉํ•œ๋‹ค. ํ•ด๋‹น ๋…ธ๋“œ ์ž…๋ ฅ ๊ฐ’๋“ค์˜ ๊ฐ€์ค‘ํ•ฉ์ด ์ž„๊ณ„์น˜๋ฅผ ๋„˜์œผ๋ฉด 1์„, ๊ทธ ์™ธ์˜ ๊ฒฝ์šฐ๋Š” 0์ด๋‚˜ -1์„ ์ถœ๋ ฅ

 

 

 

 

# ํผ์…‰ํŠธ๋ก  - ํ•™์Šต ๋ฐฉ๋ฒ•

- ํผ์…‰ํŠธ๋ก  ์ธ๊ณต์‹ ๊ฒฝ๋ง์„ ํ•™์Šต์‹œํ‚ค๋Š” ๊ฒƒ = ์ธ๊ณต์‹ ๊ฒฝ๋ง ๊ฐ ๋…ธ๋“œ ์‚ฌ์ด์˜ ๊ฐ€์ค‘์น˜ ๊ฐ’์„ ํ•™์Šตํ•˜๋Š” ๊ฒƒ

- ํผ์…‰ํŠธ๋ก  ํ•™์Šต๋ฒ•์—์„œ ์ดˆ๊ธฐ ๊ฐ€์ค‘์น˜๋Š” ์ž„์˜์˜ ๊ฐ’์„ ๊ฐ€์ง„๋‹ค. ์ดํ›„ ํ•™์Šต ์‹ ํ˜ธ๋กœ ์ฃผ์–ด์ง„ ๋ชฉํ‘œ์น˜์™€ ํผ์…‰ํŠธ๋ก ์˜ ์‹ค์ œ ์ถœ๋ ฅ ์ฐจ์ด ๋“ฑ์˜ ์˜ค์ฐจ๋ฅผ ๋ฐ˜๋ณต ์ˆ˜์ •ํ•˜๋Š” ๊ณผ์ •์„ ๊ฑฐ์ณ ๊ฐ’์„ ์–ป๋Š”๋‹ค.

 

 

 

 

# ๋‹ค์ธต ํผ์…‰ํŠธ๋ก (MLP, Multi-Layer Perception)๊ณผ ๋”ฅ๋Ÿฌ๋‹

: ์ž…๋ ฅ์ธต๊ณผ ์ถœ๋ ฅ์ธต ์ค‘๊ฐ„์— ์€๋‹‰์ธต์„ 1์ธต ์ด์ƒ ์ถ”๊ฐ€ํ•œ ๊ฒƒ

 

 

- ๋‹จ์ธต ํผ์…‰ํŠธ๋ก ์—์„œ ๋‹ค์ธต ํผ์…‰ํŠธ๋ก ์œผ๋กœ์˜ ํ™•์žฅ์€ ์ธต์„ ๋งŽ์ด ์Œ“์„์ˆ˜๋ก ์ธ๊ณต์‹ ๊ฒฝ๋ง์˜ ์„ฑ๋Šฅ์ด ํ–ฅ์ƒ๋œ๋‹ค๋Š” ์‚ฌ์‹ค์„ ์ž…์ฆํ•˜๊ฒŒ ๋˜์—ˆ์Œ. ๋”ฅ๋Ÿฌ๋‹์€ ์ด๋Ÿฐ ๋‹ค์ธต ๊ตฌ์กฐํ˜•ํƒœ๋ฅผ ์ทจํ•˜๋Š” ์‹ ๊ฒฝ๋ง์„ ๊ธฐ๋ฐ˜์œผ๋กœ, ๋‹ค๋Ÿ‰์˜ ๋ฐ์ดํ„ฐ๋ฅผ ๊ณ ์ˆ˜์ค€์˜ ์ถ”์ƒํ™” ๋ชจ๋ธ๋กœ ๊ตฌ์ถ•ํ•˜๊ธฐ ์œ„ํ•ด ์—ฐ๊ตฌ๋ฅผ ์ง„ํ–‰ ์ค‘์ž„.

 

 

 

 

 

 

# ๋‹ค์ค‘ ํผ์…‰ํŠธ๋ก ์˜ ๋“ฑ์žฅ ๋ฐฐ๊ฒฝ

: ํผ์…‰ํŠธ๋ก ์˜ ์ž…๋ ฅ ๊ฐ’์ธ ์„ ํ˜• ๋ถ„๋ฆฌ ํ•จ์ˆ˜๊ฐ€ XOR ๋…ผ๋ฆฌ๊ฒŒ์ดํŠธ ๋ฌธ์ œ๋ฅผ ํ•ด๊ฒฐํ•˜์ง€ ๋ชปํ•˜์—ฌ ๊ทธ ๋ฌธ์ œ๋ฅผ ํ•ด๊ฒฐํ•˜๊ธฐ ์œ„ํ•ด ๋“ฑ์žฅ

 

- ํผ์…‰ํŠธ๋ก ์€ ๋‹จ์ธต ํ•˜๋‚˜๋งŒ์œผ๋กœ๋Š” ์ •ํ™•ํ•œ ๊ธฐ๋Šฅ์ด ๋ถˆ๊ฐ€ํ•˜๊ณ , ์„ ํ˜• ๋ถ„๋ฆฌํ•จ์ˆ˜์—์„œ ์ž…๋ ฅ๊ฐ’์ด 2์ฐจ์›์ผ ๊ฒฝ์šฐ์—๋Š” ์ง์„ , 3์ฐจ์›์ผ ๊ฒฝ์šฐ์—๋Š” ํ‰๋ฉด์ด ๋œ๋‹ค. ์ด๋Š” n์ฐจ์›์˜ ์ž…๋ ฅ๊ฐ’์„ ๋ถ„๋ฆฌํ•˜๋Š” ํ•จ์ˆ˜๋Š” n-1์ฐจ์›์ด ๋œ๋‹ค๋Š” ๋ง์ธ๋ฐ, ์ด๋Ÿฐ ๋น„์„ ํ˜•(Non-linear) ๋ถ„๋ฆฌ๋ฅผ ํ•ด๊ฒฐํ•˜๊ธฐ ์œ„ํ•ด ๋‹ค์ธต ํผ์…‰ํŠธ๋ก ์ด ๋“ฑ์žฅํ•˜๊ฒŒ ๋˜์—ˆ๋‹ค.