3. ์ธ๊ณต์ ๊ฒฝ๋ง + ํผ์ ํธ๋ก ๊ธฐ๋ณธ์ + ๋ค์ธต ํผ์ ํธ๋ก ๊ณผ ๋ฅ๋ฌ๋
# ์ธ๊ณต์ ๊ฒฝ๋ง
: ์ธ๊ฐ์ ๋ ๊ตฌ์กฐ์ ์ฐฉ์ํด ๋ง๋ ํ์ต๋ฒ์ผ๋ก, ์ธ๊ฐ์ ๋ ๊ตฌ์กฐ๋ฅผ ํ๋ด ๋ธ๋ค.
- ๋์ ๋์ ๋ฐฉ์์ ๋ชจ๋ธํํ ๋ณ๋ ฌ ์ฒ๋ฆฌ ์์คํ ์ผ๋ก, ๋จ์ํ ์ฐ์ฐ์ ์ํํ๋ ์์๋ค์ ๋ถ์ฐ ์ฒ๋ฆฌ ๋ฐ ๋ณ๋ ฌ ๊ตฌ์กฐ๋ฅผ ๊ฐ์ง๊ณ ์๋ค.
# ์ธ๊ณต์ ๊ฒฝ๋ง์ ๊ตฌ์กฐ
- ์ธ๊ณต์ ๊ฒฝ๋ง์์๋ ๋๊ทธ๋ ์์ด ํ๋์ ๋ด๋ฐ์ด ๋๊ณ , ์ด๋ค์ด ์๋ก ์ฐ๊ฒฐ๋์ด ํ๋์ ์ ๊ฒฝ๋ง์ ์ด๋ฃฌ๋ค.
# ํผ์ ํธ๋ก - ๊ธฐ๋ณธ์
: ์ธ๊ฐ์ ๋๋ฅผ ๊ตฌ์ฑํ๋ ๋ด๋ฐ, ์๋ ์ค์ ๋์ ๋ฐฉ์์ ๋ชจ๋ธ๋งํ ๊ทธ๋ฆผ
- X ๋ ธ๋๋ ๋ฐ์ดํฐ๋ฅผ ๋ฐ๋ ์ ๋ ฅ์ธต ๋ ธ๋, Y๋ ์ถ๋ ฅ์ธต ๋ ธ๋์ด๋ค. ์ด ๋ ๋ ธ๋ํ ๊ฐ์ค์น(W, Weight)๊ฐ์ผ๋ก ์ฐ๊ฒฐ๋๋ค.
- ์ถ๋ ฅ์ธต์ ๋ ธ๋๋ ๊ฐ๊ฐ์ ์ ๋ ฅ ๊ฐ์ ๊ฐ์ค์น๋ฅผ ๊ณฑํ ๊ฐ์ ํฉํด ์ต์ข ๊ฒฐ๊ณผ๊ฐ์ ์์ฑํ๋ค. (T = ์๊ณ์น : ๊ฐ์คํฉ๋ ๊ฒฐ๊ณผ์ ๋น๊ตํด์ ์ถ๋ ฅ๊ฐ ์ง์ )
+ ํ์ฑํ ํจ์ f๋ฅผ ๊ตฌํ ๋๋ ๊ณ๋จ ํจ์(-1~+1 , 0~+1๊น์ง์ ๊ฐ์ ์ถ๋ ฅํ๋๋ก ๊ตฌํ๋ ํจ์)๋ฅผ ์ฌ์ฉํ๋ค. ํด๋น ๋ ธ๋ ์ ๋ ฅ ๊ฐ๋ค์ ๊ฐ์คํฉ์ด ์๊ณ์น๋ฅผ ๋์ผ๋ฉด 1์, ๊ทธ ์ธ์ ๊ฒฝ์ฐ๋ 0์ด๋ -1์ ์ถ๋ ฅ
# ํผ์ ํธ๋ก - ํ์ต ๋ฐฉ๋ฒ
- ํผ์ ํธ๋ก ์ธ๊ณต์ ๊ฒฝ๋ง์ ํ์ต์ํค๋ ๊ฒ = ์ธ๊ณต์ ๊ฒฝ๋ง ๊ฐ ๋ ธ๋ ์ฌ์ด์ ๊ฐ์ค์น ๊ฐ์ ํ์ตํ๋ ๊ฒ
- ํผ์ ํธ๋ก ํ์ต๋ฒ์์ ์ด๊ธฐ ๊ฐ์ค์น๋ ์์์ ๊ฐ์ ๊ฐ์ง๋ค. ์ดํ ํ์ต ์ ํธ๋ก ์ฃผ์ด์ง ๋ชฉํ์น์ ํผ์ ํธ๋ก ์ ์ค์ ์ถ๋ ฅ ์ฐจ์ด ๋ฑ์ ์ค์ฐจ๋ฅผ ๋ฐ๋ณต ์์ ํ๋ ๊ณผ์ ์ ๊ฑฐ์ณ ๊ฐ์ ์ป๋๋ค.
# ๋ค์ธต ํผ์ ํธ๋ก (MLP, Multi-Layer Perception)๊ณผ ๋ฅ๋ฌ๋
: ์ ๋ ฅ์ธต๊ณผ ์ถ๋ ฅ์ธต ์ค๊ฐ์ ์๋์ธต์ 1์ธต ์ด์ ์ถ๊ฐํ ๊ฒ
- ๋จ์ธต ํผ์ ํธ๋ก ์์ ๋ค์ธต ํผ์ ํธ๋ก ์ผ๋ก์ ํ์ฅ์ ์ธต์ ๋ง์ด ์์์๋ก ์ธ๊ณต์ ๊ฒฝ๋ง์ ์ฑ๋ฅ์ด ํฅ์๋๋ค๋ ์ฌ์ค์ ์ ์ฆํ๊ฒ ๋์์. ๋ฅ๋ฌ๋์ ์ด๋ฐ ๋ค์ธต ๊ตฌ์กฐํํ๋ฅผ ์ทจํ๋ ์ ๊ฒฝ๋ง์ ๊ธฐ๋ฐ์ผ๋ก, ๋ค๋์ ๋ฐ์ดํฐ๋ฅผ ๊ณ ์์ค์ ์ถ์ํ ๋ชจ๋ธ๋ก ๊ตฌ์ถํ๊ธฐ ์ํด ์ฐ๊ตฌ๋ฅผ ์งํ ์ค์.
# ๋ค์ค ํผ์ ํธ๋ก ์ ๋ฑ์ฅ ๋ฐฐ๊ฒฝ
: ํผ์ ํธ๋ก ์ ์ ๋ ฅ ๊ฐ์ธ ์ ํ ๋ถ๋ฆฌ ํจ์๊ฐ XOR ๋ ผ๋ฆฌ๊ฒ์ดํธ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ์ง ๋ชปํ์ฌ ๊ทธ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด ๋ฑ์ฅ
- ํผ์ ํธ๋ก ์ ๋จ์ธต ํ๋๋ง์ผ๋ก๋ ์ ํํ ๊ธฐ๋ฅ์ด ๋ถ๊ฐํ๊ณ , ์ ํ ๋ถ๋ฆฌํจ์์์ ์ ๋ ฅ๊ฐ์ด 2์ฐจ์์ผ ๊ฒฝ์ฐ์๋ ์ง์ , 3์ฐจ์์ผ ๊ฒฝ์ฐ์๋ ํ๋ฉด์ด ๋๋ค. ์ด๋ n์ฐจ์์ ์ ๋ ฅ๊ฐ์ ๋ถ๋ฆฌํ๋ ํจ์๋ n-1์ฐจ์์ด ๋๋ค๋ ๋ง์ธ๋ฐ, ์ด๋ฐ ๋น์ ํ(Non-linear) ๋ถ๋ฆฌ๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด ๋ค์ธต ํผ์ ํธ๋ก ์ด ๋ฑ์ฅํ๊ฒ ๋์๋ค.