๋ณธ๋ฌธ ๋ฐ”๋กœ๊ฐ€๊ธฐ

โœ’๏ธ Kibwa Voice Phishing Prev Project12

[Natural Language Processing Model] KOBERT ์—๋Ÿฌ ๊ธฐ๋ก & ์ •๋ฆฌ ๐Ÿ”ฅ KOBERT Code ์ถœ์ฒ˜ ๋ฐ ์šด์šฉ ์‹œ ์ฐธ๊ณ  ์ž๋ฃŒ --> https://bbarry-lee.github.io/ai-tech/KoBERT%EB%A5%BC-%ED%99%9C%EC%9A%A9%ED%95%9C-%EA%B0%90%EC%A0%95%EB%B6%84%EB%A5%98-%EB%AA%A8%EB%8D%B8-%EA%B5%AC%ED%98%84.html KoBERT๋ฅผ ํ™œ์šฉํ•œ ๊ฐ์ •๋ถ„๋ฅ˜ ๋ชจ๋ธ ๊ตฌํ˜„ with Colab ์•ˆ๋…•ํ•˜์„ธ์š”, Daisy ์ž…๋‹ˆ๋‹ค โ˜บ๏ธ SKT Brain์—์„œ ๊ฐœ๋ฐœํ•œ KoBERT ์˜คํ”ˆ์†Œ์Šค ์ฝ”๋“œ๋ฅผ ํ™œ์šฉํ•ด Google Colab์—์„œ ๊ฐ์ •๋ถ„๋ฅ˜ ๋ชจ๋ธ์„ ๊ตฌํ˜„ํ•ด๋ณด์•˜์œผ๋ฉฐ ๊ทธ ๊ณผ์ •์„ ์†Œ๊ฐœํ•˜๊ณ ์ž ํ•ฉ๋‹ˆ๋‹ค. bbarry-lee.github.io --> https://github.com/SKTBrain/KoBERT GitH.. 2023. 7. 1.
[Data Processing] ๋ฐ์ดํ„ฐ ์ฆ๊ฐ•(Data Augmentation) ๊ด€๋ จ ๊ฐœ๋… ๋ฐ ๊ธฐ๋ฒ• ์กฐ์‚ฌ ๐Ÿ  ๋ฐ์ดํ„ฐ ์ฆ๊ฐ•(Data Augmentation) ์ด๋ž€? ๋ฐ์ดํ„ฐ ์ฆ๊ฐ•(Data Augmentation)์€ ๊ธฐ๊ณ„ ํ•™์Šต๊ณผ ๋”ฅ๋Ÿฌ๋‹ ๋ชจ๋ธ์˜ ์„ฑ๋Šฅ์„ ํ–ฅ์ƒ์‹œํ‚ค๊ธฐ ์œ„ํ•ด ๊ธฐ์กด์˜ ํ•™์Šต ๋ฐ์ดํ„ฐ๋ฅผ ๋ณ€ํ˜•, ์กฐ์ž‘ ๋˜๋Š” ํ™•์žฅ์‹œํ‚ค๋Š” ๊ธฐ๋ฒ•์ด๋‹ค. ๋ฐ์ดํ„ฐ ์ฆ๊ฐ•(Data Augmentation)์€ ์ œํ•œ๋œ ํ•™์Šต ๋ฐ์ดํ„ฐ๋ฅผ ๋‹ค์–‘ํ•˜๊ณ  ํ’๋ถ€ํ•œ ๋ฐ์ดํ„ฐ๋กœ ํ™•์žฅ์‹œํ‚ด์œผ๋กœ์จ ๋ชจ๋ธ์˜ ์ผ๋ฐ˜ํ™” ์„ฑ๋Šฅ์„ ํ–ฅ์ƒ์‹œํ‚ค๊ณ , ๊ณผ์ ํ•ฉ์„ ๋ฐฉ์ง€ํ•˜๋Š” ๋ฐ ๋„์›€์„ ์ค„ ์ˆ˜ ์žˆ๋‹ค. ๐Ÿ  About ๋ฐ์ดํ„ฐ ์ฆ๊ฐ•(Data Augmentation) 1. ๋ฐ์ดํ„ฐ ์ฆ๊ฐ• ๊ธฐ๋ฒ• ๋ฌธ๋ฒ• ๋ณ€ํ˜• ๋™์˜์–ด & ์œ ์˜์–ด ๊ต์ฒด ๋ฌธ์žฅ ์žฌ๊ตฌ์„ฑ (๋ฌธ์žฅ ๊ฐ„ ์ˆœ์„œ ๊ต์ฒด) ํƒ€ ์–ธ์–ด๋กœ ๋ฒˆ์—ญ ํ›„ ๋‹ค์‹œ ํšŒ๊ท€ ์ค‘๊ฐ„๋ถ€ ๋‹จ์–ด ์‚ฝ์ž… ์ค‘๊ฐ„๋ถ€ ๋‹จ์–ด ์‚ญ์ œ 2. ๋ฐ์ดํ„ฐ ์ฆ๊ฐ• ์˜ˆ์‹œ 1๏ธโƒฃ ๋ฌธ๋ฒ• ๋ณ€ํ˜• ๋„ค, ์šฐ์„ ์€ ํ†ตํ™”์ž๋ถ„๊ป˜์„œ ์ด๋ฒˆ ์‚ฌ๊ฑด์— ์—ฐ๋ฃจ๋œ ํ˜์˜.. 2023. 6. 25.
[Data Processing] STT ๋ฐ์ดํ„ฐ ๋‹ค์šด๋กœ๋“œ๋ฅผ ์œ„ํ•œ ์ž๋™ํ™” ์Šคํฌ๋ฆฝํŠธ ์ž‘์„ฑ ๐Ÿ€ STT ๋ฐ์ดํ„ฐ ๋‹ค์šด๋กœ๋“œ๋ฅผ ์œ„ํ•œ ์ž๋™ํ™” ์Šคํฌ๋ฆฝํŠธ ์ž‘์„ฑ โ‘  pip ๋ช…๋ น์–ด๋ฅผ ํ†ตํ•ด boto3 ํŒจํ‚ค์ง€ ์„ค์น˜ & boto3 ๋ชจ๋“ˆ ์ž„ํฌํŠธ !pip install boto3 import boto3 โ€ป boto3 ๋ž€? AWS ์„œ๋น„์Šค์™€ ์ƒํ˜ธ์ž‘์šฉํ•˜๊ธฐ ์œ„ํ•ด ์‚ฌ์šฉํ•˜๋Š” Python SDK --> ์ž„ํฌํŠธํ•œ boto3 ์ด ๋ชจ๋“ˆ์„ ์‚ฌ์šฉํ•˜์—ฌ AWS S3 ํด๋ผ์ด์–ธํŠธ๋ฅผ ์ƒ์„ฑํ•˜๊ณ  ํŒŒ์ผ์„ ๋‹ค์šด๋กœ๋“œํ•  ์ˆ˜ ์žˆ์Œ โ‘ก AWS ๊ณ„์ • ์ž๊ฒฉ ์ฆ๋ช…๊ณผ AWS ๋ฆฌ์ „ ์„ค์ • # AWS ๊ณ„์ • ์ž๊ฒฉ ์ฆ๋ช… ๋ฐ AWS ๋ฆฌ์ „ ์„ค์ • aws_access_key_id = "๊ณ„์ •์˜ ์—‘์„ธ์Šค ํ‚ค๊ฐ’" aws_secret_access_key = "๊ณ„์ •์˜ ์‹œํฌ๋ฆฟ ์—‘์„ธ์Šค ํ‚ค๊ฐ’" aws_region = "๊ณ„์ •์˜ AWS Region" โ€ป AWS ๋ฆฌ์ „(Region) ์ด๋ž€? : AWS ํด๋ผ์šฐ.. 2023. 6. 23.
[Natural Language Processing Model] KOBERT์™€ Finetuning ์‹ค์Šต ๐ŸŒ KOBERT ๋ž€? KOBERT๋Š” Korean Bidirectional Encoder Representations from Transformers์˜ ์•ฝ์ž๋กœ, SKT Brain์—์„œ ๊ณต๊ฐœํ•œ ์ผ์ข…์˜ ๊ธฐ๊ณ„๋ฒˆ์—ญ ๋ชจ๋ธ์ด๋‹ค. KOBERT๋Š” 2018๋…„ Google ์—์„œ ๋ฐœํ‘œํ•œ "BERT"์˜ ํ•œ๊ตญ์–ด ๋ฒ„์ „ ๋ชจ๋ธ๋กœ์„œ ํ…์ŠคํŠธ ๋ถ„๋ฅ˜, ๊ฐœ์ฒด๋ช… ์ธ์‹, ๊ฐ์ • ๋ถ„์„, ๊ธฐ๊ณ„ ๋ฒˆ์—ญ ๋“ฑ์˜ ์ž์—ฐ์–ด ์ฒ˜๋ฆฌ(Natural Language Processing) ์ž‘์—…์—์„œ ๋›ฐ์–ด๋‚œ ์„ฑ๋Šฅ์„ ๋ฐœํœ˜ํ•  ์ˆ˜ ์žˆ๋‹ค. ๐ŸŒ KOBERT Finetuning ์‹ค์Šต 1. ํŒŒ์ด์ฌ ๋ฉ”์ธ ํŒจํ‚ค์ง€ ์„ค์น˜ # ํ†ตํ•ฉ ๊ฐœ๋ฐœ ํ™˜๊ฒฝ์„ ์œ„ํ•œ ipywidgets ํŒจํ‚ค์ง€ ์„ค์น˜ !pip install ipywidgets # GitHub ์ €์žฅ์†Œ์—์„œ ์ตœ์‹  ๋ฒ„์ „์˜ KOBERT๋ฅผ ๋ถˆ๋Ÿฌ์™€ ์„ค์น˜ !pip .. 2023. 6. 3.
[Project Development & Ideas] ํ”„๋กœ์ ํŠธ ๋ฐœ์ „_์‹œ๊ฐ ์žฅ์• ์ธ ๋ถ„๋“ค์„ ์œ„ํ•œ ์ถ”๊ฐ€ ์•„์ด๋””์–ด ์ œ์•ˆ # ํ”„๋กœ์ ํŠธ ๋ฐœ์ „_์‹œ๊ฐ ์žฅ์• ์ธ ๋ถ„๋“ค์„ ์œ„ํ•œ ์ถ”๊ฐ€ ์•„์ด๋””์–ด ์ œ์•ˆ 1. ์•ฑ์—์„œ ๋ณด์ด์Šคํ”ผ์‹ฑ ํŒ๋ณ„ ๊ฒฐ๊ณผ๋ฅผ ์Œ์„ฑ์œผ๋กœ ์•ˆ๋‚ด : App ์ œ์ž‘ ์‹œ ์Œ์„ฑ ์ถœ๋ ฅ ๊ธฐ๋Šฅ ์ถ”๊ฐ€ A. ์Œ์„ฑ ํ•ฉ์„ฑ API ์‚ฌ์šฉ --> API๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ํ…์ŠคํŠธ๋ฅผ ์Œ์„ฑ์œผ๋กœ ๋ณ€ํ™˜ํ•˜๊ณ , ์›น ์•ฑ์—์„œ ํ•ด๋‹น ์Œ์„ฑ์„ ์žฌ์ƒํ•  ์ˆ˜ ์žˆ์Œ ๋Œ€ํ‘œ์ ์ธ ์Œ์„ฑ ํ•ฉ์„ฑ API Google Cloud Text-to-Speech Microsoft Azure Text-to-Speech Amazon Polly B. JavaScript์™€ Web Audio API : ์›น ์•ฑ์˜ ํด๋ผ์ด์–ธํŠธ ์ธก์—์„œ JavaScript์™€ Web Audio API๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ์Œ์„ฑ์„ ์ƒ์„ฑํ•˜๊ณ  ์žฌ์ƒํ•  ์ˆ˜ ์žˆ์Œ. ์ด๋ฅผ ํ†ตํ•ด ํ…์ŠคํŠธ๋ฅผ ์Œ์„ฑ์œผ๋กœ ๋ณ€ํ™˜ํ•˜๊ณ , ์›น ์•ฑ์—์„œ ํ•ด๋‹น ์Œ์„ฑ์„ ์ถœ๋ ฅํ•  ์ˆ˜ ์žˆ์Œ --> ์˜ˆ๋ฅผ ๋“ค์–ด, Text-.. 2023. 5. 28.
[Data Processing] 1. ์Œ์„ฑ ๋ฐ์ดํ„ฐ ์ˆ˜์ง‘์„ ์œ„ํ•œ ์›น ํฌ๋กค๋ง ์Šคํฌ๋ฆฝํŠธ ์ž‘์„ฑ ๐Ÿฅ™ ์Œ์„ฑ ๋ฐ์ดํ„ฐ ์ˆ˜์ง‘์„ ์œ„ํ•œ ์›น ํฌ๋กค๋ง ์Šคํฌ๋ฆฝํŠธ ์ž‘์„ฑ ๋จธ์‹  ๋Ÿฌ๋‹์„ ์œ„ํ•œ ๋ฐ์ดํ„ฐ์…‹์„ ํ™•๋ณดํ•˜๋Š” ๊ณผ์ •์—์„œ ๋‹ค์šด๋ฐ›์•„์•ผ ํ•  ํŒŒ์ผ์˜ ์ˆ˜๊ฐ€ ๋งŽ์•„, ์ž๋™์œผ๋กœ ์Œ์„ฑ ํŒŒ์ผ๋“ค์„ ๋‹ค์šด๋กœ๋“œํ•  ์ˆ˜ ์žˆ๋Š” ์›น ํฌ๋กค๋ง ์Šคํฌ๋ฆฝํŠธ๋ฅผ ์ž‘์„ฑํ•˜์˜€๋‹ค. ์ƒ์„ฑํ•œ ์Šคํฌ๋ฆฝํŠธ๋Š” ์•„๋ž˜ 2๊ฐ€์ง€์˜ ์š”์†Œ๋ฅผ ๋ฐ˜์˜ํ•˜๋„๋ก ์ž‘์„ฑ๋˜์—ˆ๋‹ค. ๋‹ค์šด๋กœ๋“œ ์‹œ ๋‹ค์šด๋  ํŒŒ์ผ์˜ ์ด๋ฆ„์„ ์ง€์ •ํ•  ์ˆ˜ ์žˆ๋„๋ก ํ•จ ํŒŒ์ผ์„ ๋‹ค์šด๋กœ๋“œ ์‹œ ๋ฐ์ดํ„ฐ๊ฐ€ ์ €์žฅ๋  ์œ„์น˜๋ฅผ ์„ค์ •ํ•  ์ˆ˜ ์žˆ๋„๋ก ํ•จ ์•„๋ž˜๋Š” ์ž‘์„ฑํ•œ ํฌ๋กค๋ง ์Šคํฌ๋ฆฝํŠธ์™€ ์ž‘์„ฑํ•œ ์ฝ”๋“œ์— ๋Œ€ํ•œ ์„ค๋ช…์ด๋‹ค. from selenium import webdriver from selenium.webdriver import ActionChains from selenium.webdriver.common.keys import Keys from selenium.webdri.. 2023. 5. 23.