[PRML / ํจํด์ธ์๊ณผ ๋จธ์ ๋ฌ๋ / Chapter 1] ํจํด์ธ์ ๋ฐ ํ์ต ์๊ณ ๋ฆฌ์ฆ ์๊ฐ
๊ฐ์
๊ฐ์
๋ถ์ ๊ณผ์ ๋ฐ๊ตด
๋ถ์ ๊ธฐํ ๋ฐฉํฅ์ฑ ๋์ถ
๋น ๋ฐ์ดํฐ ๋ถ์ ๋ฐ ์ ๋ต ์ธ์ฌ์ดํธ
๋น์ฆ๋์ค ๋ชจ๋ธ
๋น ๋ฐ์ดํฐ
๋ฐ์ดํฐ๋ฒ ์ด์ค
๋ฐ์ดํฐ
Introduction ๊ธฐ์กด Speech-Text Foundation Model์ ๋ ๋ฆฝ์ ์์๋ค์ ํ์ดํ๋ผ์ธ์ ์์กดํจ. ํ์ง๋ง ์ด๋ฌํ ๊ธฐ์กด ๋ฐฉ์์ ์ค์ ๋ํ๋ฅผ ๋ชจ๋ฐฉํ๊ธฐ์๋ ํ์ฐธ ๋ค์ณ์ง๊ณ ์์ โ ์ด๋ฅผ ๊ทน๋ณตํ ๋ชจ๋ธ โMoshiโ Speech-to-Speech ์์ฑ ...
0. Neural Audio Codec ๊ฐ์: vs. ์ ํต์ ์ค๋์ค ์ฝ๋ฑ ์ ํต์ ์ฝ๋ฑ(MP3, AAC ๋ฑ) ์ํ์ ๋ณํ(MDCT ๋ฑ) + ์ฌ๋ฆฌ์ํฅ ๋ชจ๋ธ + ํํ๋ง ์ฝ๋ฉ ๋ฑย ์ฌ๋ฌ ๋จ๊ณ๋ฅผ ์์ฐจ์ ์ผ๋กย ๊ฑฐ์นจ Neural Audi...
1. ์์ถ์ด ํ์ํ ์ด์ ์๋ณธ ํํ์ 1์ด์ 44,100 x 16๋นํธ = 705,600๋นํธ โ ๋๋ต 88KB ์ฉ๋์ ๋ฐ์ดํฐ ์์ฑ 3๋ถ ๊ธธ์ด์ ๋ ธ๋๋ฅผ ๊ธฐ์ค์ผ๋ก ํ์ ๋, 88 KB ร 180์ด โ 15.8 MB โ ์ ์ฅ ๋ฐ ์ ์ก์ ๋ถ๋ด๋๋ ์ฉ๋ / ๋ถํ์...
1. ์๊ฐ ์์ญ์ ์ค๋์ค ํํ ์๋ฆฌ๊ฐ ํํ์ผ๋ก ์๊ฐํ โ ์๊ฐ์ ๋ฐ๋ฅธ ์ํ ๊ฐ๋ค์ ๊ทธ๋ํ๋ก ํํํ์ฌ ์๋ฆฌ์ ์งํญ ๋ณํ๋ฅผ ๋ณด์ฌ์ฃผ๋ ๊ฒ ์์ ๊ฐ์ด ํํํ๋ ๋ฐฉ๋ฒ์ด ์๋ฆฌ์ ==์๊ฐ ์์ญ(time domain) ํํ==
1. ์๋ฆฌ๊ฐ ๋์งํธ ์ ํธ๊ฐ ๋๋ ๊ณผ์ ์๋ฆฌ๋? ๊ณต๊ธฐ ์๋ ฅ์ ์ง๋ ์ฌ๋์ด ๋งํ๊ฑฐ๋ ์ ๊ธฐ๊ฐ ์ธ๋ฆฌ๋ฉด โ ๊ณต๊ธฐ๊ฐ ๋ฐ๋ฆฌ๊ณ ๋ฒ์ด์ง๋ฉฐ ํ๋ ํ์ฑ ๋ณธ์ง์ ์ผ๋ก ์ํ๋? โ ์ฐ์์ ์ธ ์ ํธ
์์ผ๋ก ๊ณต๋ถํ ๋ ๋ฌธ์ ๊ฐ ์๊ฒผ๋ ์ ๋ค์ ํ๋์ฉ ๊ธฐ๋กํด ๋๊ฐ๋ณผ ์๊ฐ์ด๋ค. ๊ธฐ๋กํด๋๋ฉด, ์ถํ์ ๋๋ ๋์ผํ ๋ฌธ์ ๋ฅผ ๋ฐ๋ณตํ์ง ์์ ์ ์์ ๊ฒ์ด๊ณ ์ด ๊ธ์ ํน์ ๋ณผ ์ง ๋ชจ๋ฅด๋ ๋ค๋ฅธ ๊ฐ๋ฐ์ ๋ถ๋ค์๊ฒ๋ ๋์์ด ๋ ์ ์๊ฒ ๋ค๋ ์๊ฐ์ ์์ํ๊ฒ ๋์๋ค. ์ค๋์ ๊ทธ ์ฒซ๋ฒ์งธ๋ก, ...
์ด๋ฒ ํฌ์คํ ๋ถํฐ, ๋คํธ์ํฌ ์ฐธ์กฐ๋ชจ๋ธ์ ๊ตฌ์ฑํ๋ ๊ฐ์ฅ ์ตํ์ ๊ณ์ธต๋ถํฐ ํ๋์ฉ ์์๋ณด๊ฒ ์ต๋๋ค. ๋จผ์ , ๊ฐ์ฅ ๊ทผ์์ ์ธ ์ง์ ์ธ ๋ฌผ๋ฆฌ ๊ณ์ธต๊ณผ ๋ฐ์ดํฐ ๋งํฌ ๊ณ์ธต์ ๊ดํ ๋ด์ฉ์ ๋๋ค. ๋ ๊ณ์ธต์, ์ค๋๋ ๋คํธ์ํฌ ํ๊ฒฝ์์ ๊ธฐ๋ณธ์ ์ผ๋ก ๊ณตํต๋ ๊ธฐ์ (์ด๋๋ท)๋ก ๊ตฌํ๋ฉ๋๋ค. ์ด์ ์ ๋ ...
1. ๋คํธ์ํฌ์ ๊ธฐ๋ณธ ๊ตฌ์กฐ ๋คํธ์ํฌ: ์ฌ๋ฌ ๋์ ์ฅ์น๊ฐ ๊ทธ๋ฌผ์ฒ๋ผ ์ฐ๊ฒฐ๋์ด ์ ๋ณด๋ฅผ ์ฃผ๊ณ ๋ฐ๋ ํต์ ๋ง ๋คํธ์ํฌ๋ ๊ทธ๋ํ์ ํํ๋ฅผ ๋ โ ๋ ธ๋์ ๊ฐ์ ์ผ๋ก ์ด๋ฃจ์ด์ง ์๋ฃ๊ตฌ์กฐ ๋ ธ๋: ๋คํธ์ํฌ ๊ธฐ๊ธฐ ...
1. ๊ฐ์ โCPU์ ํ๋ก์ธ์ค๊ฐ ๋ฉ๋ชจ๋ฆฌ ๋ช ๋ฒ์ง์ ๋ฌด์์ด ์ ์ฅ๋์ด ์๋์ง ๋ชจ๋ ์๊ณ ์๋ค?โ โ ๊ทธ๋ ์ง ์์ ์์ ๋ง์ฒ๋ผ, ๋ชจ๋ ์ ๋ณด๋ฅผ ๋ค ์๊ณ ์๊ธฐ ์ํด์๋ ๋ ์ง์คํฐ(CPU ๋ด๋ถ ์ ์ฅ๊ณต๊ฐ)๊ฐ ๋ฉ๋ชจ๋ฆฌ๋งํผ ์ปค์ผํจ โ ์ค์ ๋ก๋ ํจ์ฌ ์์ ์ฉ๋...
์ด๋ฒ ํฌ์คํธ์์๋ ํ๋ก์ธ์ค์ ์ค๋ ๋์ ๋ํด ์์ธํ ์์๋ณด๊ฒ ์ต๋๋ค.
์ด์์ฒด์ ๋ ๋งค์ฐ ๋ง์ ์ข ๋ฅ์ ๋ค์ํ ๊ธฐ๋ฅ์ด ์๋ ํน๋ณํ ํ๋ก๊ทธ๋จ์ ๋๋ค. ์ด์์ฒด์ ์๋ Windows, MacOS, Linux, Android, iOS ๋ฑ ๋ค์ํ ์ข ๋ฅ๊ฐ ์์ง๋ง, ์ข ๋ฅ์ ๊ด๊ณ์์ด ์ด์์ฒด์ ๊ฐ ์ ๊ณตํ๋ ํต์ฌ ๊ธฐ๋ฅ์ ๋น์ทํฉ๋๋ค. ์ด๋ฒ ํฌ์คํธ์์๋ ์ด์์ฒด์ ์...
1. ER ๋ค์ด์ด๊ทธ๋จ(ERD) ๋ฐ์ดํฐ๋ฒ ์ด์ค๋ฅผ ๊ตฌ์ฑํ๋ ์์๋ค์ ๊ด๊ณ๋ฅผ ๋ํ๋ด๋ ๊ทธ๋ฆผ ์ฆ, ์ํฐํฐ ๊ด๊ณ๋ฅผ ํํํ๋ ๊ทธ๋ฆผ(ERD, Entity Relationship Diagram) ๋ชฉ์ : ๋ฐ์ดํฐ๋ฒ ์ด์ค ๋ด ์ ์ฅ๋๋ ์ํฐํฐ ...
๋จผ์ , ๊ฐ์ฅ ๋๋ฆฌ ์ฌ์ฉ๋๋ ๋ฐ์ดํฐ๋ฒ ์ด์ค ์ข ๋ฅ์ธ RDBMS(๊ด๊ณํ ๋ฐ์ดํฐ๋ฒ ์ด์ค)์ ๋ํด ์์๋ณด๊ณ , ์ด์ด์ ๋ฐ์ดํฐ๋ฒ ์ด์ค์ ๋ฌด๊ฒฐ์ฑ ์ ์ฝ์กฐ๊ฑด๊น์ง ์์๋ณด๋๋ก ํ๊ฒ ์ต๋๋ค. RDBMS๋ ํ ์ด๋ธ์ ๊ตฌ์ฑ๊ณผ ํ ์ด๋ธ์ ๊ด๊ณ๊ฐ ํต์ฌ์ด๊ธฐ์, ํฌ๊ฒ ๋ ๋ถ๋ฅ๋ก ๋๋์ด ์ดํด๋ณด๊ฒ ์ต๋๋ค. 1. ...
1. ๋ฐ์ดํฐ๋ฒ ์ด์ค์ DBMS ๋ฐ์ดํฐ ๋ฒ ์ด์ค๋? "์ํ๋ ๊ธฐ๋ฅ ๋์"์ ์ํด ๋ฐ๋์ ์ ์ฅํด์ผ ํ๋ ์ ๋ณด ์งํฉ ์ฌ์ ์ ์๋ฏธ : ์ฌ๋ฌ ์ฌ๋์ด ๊ณต์ ํด ์ฌ์ฉํ ๋ชฉ์ ์ผ๋ก ์ฒด๊ณํํ์ฌ ํตํฉ/๊ด๋ฆฌํ๋ ๋ฐ์ดํฐ ์งํฉ
์ด์ด์, ์ด๋ฒ์๋ ํธ๋ฆฌ์ ๋ํด ์์๋ณด๊ฒ ์ต๋๋ค.
์ด์ด์, ์ด๋ฒ์๋ ํด์ ํ ์ด๋ธ์ ๋ํด ์์๋ณด๊ฒ ์ต๋๋ค.
์ด๋ฒ ํฌ์คํธ์์๋ ์ปดํจํฐ ์๋ฃ๊ตฌ์กฐ ์ค ์ค์ํ ํน์ฑ์ ์ง๋ ์คํ๊ณผ ํ์ ๋ํด ์์๋ณด๊ฒ ์ต๋๋ค.
๊ฐ์ฅ ์์ฃผ์ฐ์ด๋ ๊ธฐ๋ณธ์ ์ธ ์๋ฃ ๊ตฌ์กฐ์ธ ๋ฐฐ์ด์ ์ด์ด์, ์ด๋ฒ ํฌ์คํธ์์๋ ์ฐ๊ฒฐ๋ฆฌ์คํธ์ ๋ํด ์์๋ณด๋๋ก ํ๊ฒ ์ต๋๋ค.
์ง๋ ํฌ์คํ ์์๋ ํ๋ก๊ทธ๋๋ฐ์ ํ๋ฉด์ ํ๋จํ ์ ์๋ ์๊ณ ๋ฆฌ์ฆ ์ฑ๋ฅ์ ์ฒ๋์ธ ์๊ฐ๋ณต์ก๋ ๋ฐ ๊ณต๊ฐ๋ณต์ก๋์ ๋ํ์ฌ ์์๋ณด์์ต๋๋ค. ์ด๋ฒ ํฌ์คํ ์์๋ 7๊ฐ์ง ํต์ฌ ์๋ฃ๊ตฌ์กฐ ์ค ํ๋์ธ ๋ฐฐ์ด์ ๋ํด ์์๋ณด๊ฒ ์ต๋๋ค.
์๊ฐ๋ณต์ก๋ ๋ฐ ๊ณต๊ฐ๋ณต์ก๋๋ ์๋ฃ๊ตฌ์กฐ ๋ฐ ์๊ณ ๋ฆฌ์ฆ์ ํ๋จํ๋ ์ฒ๋์ด๋ค. ์ด ๋ ๊ฐ๋ ์ ์์๋ณด๊ธฐ์ ์์, ์๋ฃ๊ตฌ์กฐ์ ์๊ณ ๋ฆฌ์ฆ์ ๋ํด ๋จผ์ ๊ฐ๋ต์ ์ผ๋ก ์ง๊ณ ๋์ด๊ฐ ๋ณด์.
๋ฌธ์ ์ด๋ค ์์ฐ์ N์ด ์์ ๋, ๊ทธ ์์ฐ์ N์ ๋ถํดํฉ์ N๊ณผ N์ ์ด๋ฃจ๋ ๊ฐ ์๋ฆฌ์์ ํฉ์ ์๋ฏธํ๋ค. ์ด๋ค ์์ฐ์ M์ ๋ถํดํฉ์ด N์ธ ๊ฒฝ์ฐ, M์ N์ ์์ฑ์๋ผ ํ๋ค. ์๋ฅผ ๋ค์ด, 245์ ๋ถํดํฉ์ 256(=245+2+4+5)์ด ๋๋ค. ๋ฐ๋ผ์ 245๋ 256์...
๋ฌธ์ ์ง๋ฏผ์ด๋ ์์ ์ ์ ํ์์ MN๊ฐ์ ๋จ์ ์ ์ฌ๊ฐํ์ผ๋ก ๋๋์ด์ ธ ์๋ MรN ํฌ๊ธฐ์ ๋ณด๋๋ฅผ ์ฐพ์๋ค. ์ด๋ค ์ ์ฌ๊ฐํ์ ๊ฒ์์์ผ๋ก ์น ํด์ ธ ์๊ณ , ๋๋จธ์ง๋ ํฐ์์ผ๋ก ์น ํด์ ธ ์๋ค. ์ง๋ฏผ์ด๋ ์ด ๋ณด๋๋ฅผ ์๋ผ์ 8ร8 ํฌ๊ธฐ์ ์ฒด์คํ์ผ๋ก ๋ง๋ค๋ ค๊ณ ํ๋ค.
์ง๋ ํฌ์คํธ์์๋, ์ปดํจํฐ๊ฐ ์ ๋ณด๋ฅผ ์ดํดํ๋ ๋ฐฉ๋ฒ ๋ฐ ๊ฐ๋ต์ ์ธ ์ปดํจํฐ ๊ตฌ์กฐ์ ๊ดํด ์ดํด๋ณด์์ต๋๋ค.
Computer Science๋ฅผ ์ดํดํ๊ธฐ์ ์์, ์ปดํจํฐ ๊ตฌ์กฐ๋ฅผ ๋จผ์ ๊ฐ๋ต์ ์ผ๋ก ์ดํด๋ณด๋๋ก ํ๊ฒ ์ต๋๋ค.
Computer Science๋ฅผ ์ดํดํ๊ธฐ์ ์์, ์ปดํจํฐ ๊ตฌ์กฐ๋ฅผ ๋จผ์ ๊ฐ๋ต์ ์ผ๋ก ์ดํด๋ณด๋๋ก ํ๊ฒ ์ต๋๋ค.
๋ฌธ์ ์๋ ์์ ์ ์ํ์ด ํญ์ ํฐ ๊ณจ์นซ๊ฑฐ๋ฆฌ์๋ ๋๋ผ๊ฐ ์์๋ค. ์ด ๋๋ผ์ ๊ตญ์ ๊น์ง๋ฏผ์ ๋ค์๊ณผ ๊ฐ์ ๋ฌธ์ ๋ฅผ ๋ด๊ณ ํฐ ์๊ธ์ ๊ฑธ์๋ค.
๋ฌธ์ ์ธํ์ํ์๋ ATM์ด 1๋๋ฐ์ ์๋ค. ์ง๊ธ ์ด ATM์์ N๋ช ์ ์ฌ๋๋ค์ด ์ค์ ์์๋ค. ์ฌ๋์ 1๋ฒ๋ถํฐ N๋ฒ๊น์ง ๋ฒํธ๊ฐ ๋งค๊ฒจ์ ธ ์์ผ๋ฉฐ, i๋ฒย ์ฌ๋์ด ๋์ ์ธ์ถํ๋๋ฐ ๊ฑธ๋ฆฌ๋ ์๊ฐ์ Pi๋ถ์ด๋ค.
๋ฌธ์ ์๊ทผ์ด๋ ์์ฆ ์คํ๊ณต์ฅ์์ ์คํ์ ๋ฐฐ๋ฌํ๊ณ ์๋ค. ์๊ทผ์ด๋ ์ง๊ธ ์ฌํ๊ฐ๊ฒ์ ์คํ์ ์ ํํ๊ฒ $N$ํฌ๋ก๊ทธ๋จ์ ๋ฐฐ๋ฌํด์ผ ํ๋ค. ์คํ๊ณต์ฅ์์ ๋ง๋๋ ์คํ์ ๋ด์ง์ ๋ด๊ฒจ์ ธ ์๋ค. ๋ด์ง๋ 3ํฌ๋ก๊ทธ๋จ ๋ด์ง์ 5ํฌ๋ก๊ทธ๋จ ๋ด์ง๊ฐ ์๋ค.
0. Whisper ๋ชจ๋ธ ๊ฐ์ 2022๋ OpenAI์์ ๊ณต๊ฐํ ASR(์๋ ์์ฑ ์ธ์) ๋ชจ๋ธ 68๋ง ์๊ฐ์ ๋๊ท๋ชจ ๋ค๊ตญ์ด ์์ฑ ๋ฐ์ดํฐ๋ก ํ์ต โ ๊ธฐ์กด ASR ๋ชจ๋ธ๋ค์ ํ๊ณ ๊ทน๋ณต Paper name: โRobust Speech Recognition v...
About. Audio Benchmark Dataset Audiocaps, Gigaspeech, WavCaps, Librispeech, Clotho
Multiple tasks used in train SALMONN stage2
SALMONN: Speech Audio Language Music Open Neural Network
Quantization
Feature-based KD
Knowledge Distillation
Matrix Sparsity
๋ชจ๋ธ ๊ฒฝ๋ํ
0. N-shot Learning ์ค์ ํ์ค์์๋, ํ๋ณด ๊ฐ๋ฅํ ๋ฐ์ดํฐ์ ๋ํด ๋ค์๊ณผ ๊ฐ์ ์ด๋ ค์์ด ์์ ๋ชจ๋ธ ํ์ต ์ ์ถฉ๋ถํ ์์ ๋ฐ์ดํฐ ๋ฐ ๋ผ๋ฒจ์ ํ๋ณดํ๊ธฐ ์ด๋ ค์ ๋ํ, ๋ฐ์ดํฐ์ ์ค์์ฑ์ด ๋ถ๊ฐ๋จ์ ๋ฐ๋ผ ๋ฐ์ดํฐ์ ๊ฐ์ด์น๋ ์ฌ๋ผ...
GRU4Rec: ๊ฐ์ ๋ฐ ํต์ฌ ์์ด๋์ด
1. Graph Neural Network Graph Node(๊ผญ์ง์ )๋ค๊ณผ ๊ทธ๋ค์ ์๋ edge(๋ณ)๋ค์ ๋ชจ์ ๊ตฌ์ฑํ ์๋ฃ๊ตฌ์กฐ ํํ๋ฒ: ์ผ๋ฐ์ ์ผ๋ก $G=(V, E)$ ๋ก ์ ์(Vertice(Node), Edge(Arc)) ex) G = ({A, B, ...
AutoEncoder๋?
๊ฐ์
Recommender System with DL
Collaborative Filtering (CF)
์ฐ๊ด๋ถ์(Association Analysis)
์ถ์ฒ์์คํ ์ด๋?
1. Retrieval ๊ฐ์ ๋๊ท๋ชจ ๋ฐ์ดํฐ์์ ์ฌ์ฉ์์ ์ง์(Query)์ ๊ฐ์ฅ ์ ํฉํ ์ ๋ณด(๋ฌธ์, ๋ฌธ์ฅ, ์ด๋ฏธ์ง ๋ฑ)๋ฅผ ์ฐพ์๋ด๋ ๊ธฐ์ ๊ณ ์ฐจ์ ๋ฐ์ดํฐ๋ฅผ ๋ฒกํฐ ๊ณต๊ฐ์ ๋งคํํด ์๋ฏธ์ ์ ์ฌ์ฑ ๊ณ์ฐ ๋จ์ด ๊ฐ ์๋ฏธ๊ฐ ์ ์ฌํ๋ฉด ๋ค์ ๋ํ...
1. ์๋ฒ ๋ฉ์ด๋? ๊ตฌ์ฑํ๋ ๋ฐ์ดํฐ์ ์๋ฏธ ์๋ ๊ตฌ์กฐ๋ฅผ ํ์ ํ๊ธฐ ์ํด, ๋ฐ์ดํฐ๋ฅผ ์ ์ฐจ์ ๊ณต๊ฐ์ผ๋ก ๋ณํํ๋ ๋ฐฉ๋ฒ ๊ฑฐ์ ๋ชจ๋ ์ข ๋ฅ์ ๋ฐ์ดํฐ๋ฅผ ๊ณต๊ฐ ์ ์ ์ผ๋ก ํํ ๊ฐ๋ฅ (ํ ์คํธ, ์ด๋ฏธ์ง, ๋น๋์ค, ์ฌ์ฉ์, ์์ ๋ฑ)
0. GMM ๊ฐ์ ๋ฐ์ดํฐ๊ฐ ์ฌ๋ฌ ๊ฐ์ ์๋ก ๋ค๋ฅธ ๊ฐ์ฐ์์ ๋ถํฌ์์ ์๋ค๊ณ ๊ฐ์ ๊ฐ ๋ถํฌ์ ํ๊ท , ๊ณต๋ถ์ฐ, ํผํฉ๊ณ์ ์ถ์ ๊ฐ ๋ฐ์ดํฐ ํฌ์ธํธ๊ฐ ์ด๋ค ํด๋ฌ์คํฐ์ ์ํ๋์ง ํ๋ฅ ์ ์ผ๋ก ๊ฒฐ์ ๊ฐ ๋ถํฌ๋ ํผํฉ ๊ณ์๋ฅผ ํตํด ๊ฐ์ค โ...
0. DBSCAN ๊ฐ์ ๋ฐ์ดํฐ์ ๋ฐ๋๋ฅผ ๊ธฐ๋ฐ์ผ๋ก Clusteringํ๋ ์๊ณ ๋ฆฌ์ฆ ๋ฐ์ดํฐ์ ๋ฐ๋๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ํด๋ฌ์คํฐ ํ์ / ๋ ธ์ด์ฆ ๊ตฌ๋ถ Unsupervised Learning์ ์ผ์ข
0. K-Means ๊ฐ์ ML ๋น์ง๋ ํ์ต์ ์ผ์ข ๋ฐ์ดํฐ๋ฅผ K๊ฐ๋ก ๋ฌถ๋ ๊ตฐ์งํ ์๊ณ ๋ฆฌ์ฆ ๊ตฐ์งํ: ๋น์ทํ ํน์ฑ์ ์ง๋ ๋ฐ์ดํฐ๋ฅผ ๋ชจ์๋์ ๊ทธ๋ฃน ์์ฑ ๊ฐ ๊ตฐ์ง์ ํ๊ท ์ ํ์ฉํ์ฌ K๊ฐ์ ๊ตฐ์ง์ผ๋ก ๋ฌถ์
1. Clustering Overview Clustering ๋ฐ์ดํฐ์์ ์ ์ฌํ ํน์ง์ ๊ฐ์ง ๋ฐ์ดํฐ ํฌ์ธํธ๋ค์ ๊ทธ๋ฃนํํ์ฌ ์๋ฏธ์๋ ํจํด์ ๋ฐ๊ฒฌํ๋ ๊ธฐ์ ์ ๋ต์ด ์ฃผ์ด์ง์ง ์์ ์ํฉ์์, ๋ฐ์ดํฐ ์์ฒด์ ๊ตฌ์กฐ๋ฅผ ํ์ ML์ ๋น์ง...
1. ํ์ ๊ณผ ๊ฒฝ์ง๋ํ์ ์ฐจ์ด์ ์ผ๋จ ๊ฐ์ฅ ํฐ ์ฐจ์ด์ ์, ๋ฐ์ดํฐ ์์ง๋จ๊ณ์์ ๊ฐ์ฅ ํฐ ์ฐจ์ด๊ฐ ์๋ค. ๋น์ฐํ๊ฒ๋, ๊ฒฝ์ง๋ํ๋ ๋ฐ์ดํฐ๋ฅผ ์ ๊ณตํ๊ณ ํ์ ์์๋ ์ง์ ๋ฐ์ดํฐ๋ฅผ ์์งํด์ ๊ฐ๊ณตํด์ผ ํ๊ธฐ ๋๋ฌธ์ด๋ค.
1. Experiment Management ์คํ ๊ด๋ฆฌ ๋จธ์ ๋ฌ๋ ์คํ ๊ด๋ฆฌ ML ๋ชจ๋ธ ๊ฐ๋ฐ ๋ฐ ์ต์ ํ ๊ณผ์ ์์, ์คํ์ ์ฌ์ฉ๋ ๋ค์ํ ์์๋ค์ ์ฒด๊ณ์ ์ผ๋ก ์ถ์ ๋ฐ ๊ด๋ฆฌํ๋ ๊ฒ ML ์คํ์์ ์ค์ํ ๋ฉํ๋ฐ์ดํฐ ...
1. Hyperparameter Optimization HPO(Hyperparameter Optimization) ํ์ดํผํ๋ผ๋ฏธํฐ ์ต์ ํ Hyperparameter vs Parameter Hyperparameter ...
1. ๋ชจ๋ธ ์์๋ธ ์์๋ธ(Ensemble) ๋ฐ์ดํฐ ์์ธก ์ํ ์, ๋จ์ผ ๋ชจ๋ธ๋ง์ ์ฌ์ฉํ๊ธฐ ๋ณด๋ค ์ฌ๋ฌ ๋ชจ๋ธ์ ๊ฐ์ด ์ด์ฉํ๋ ๊ฒ์ด ๋ ์ข์ ์์ธก ์ฑ๋ฅ์ ๋ณด์ผ ์ ์์ โ ๋จ์ผ ์๊ณ ๋ฆฌ์ฆ์ผ๋ก ์ ๋นํ ์๊ณ ๋ฆฌ์ฆ์ ์ฌ๋ฌ ๊ฐ ์กฐํฉํ์ฌ, ๋จ์ผ ์๊ณ ๋ฆฌ์ฆ์ ๋นํ ์ฑ๋ฅ ํฅ์์ ๊ธฐ...
1. ๋ชจ๋ธ ๊ณผ์ ํฉ(Over-fitting) ๊ณผ์ ํฉ ์ ์ ํ๋ จํ ๋ฐ์ดํฐ์ ๋ํด์๋ ์์ธก์ ์ํ๋ ๋ฐ๋ฉด, ๊ฒ์ฆ ๋ฐ์ดํฐ๋ ์๋ก์ด ๋ฐ์ดํฐ์ ๋ํด์๋ ์ฑ๋ฅ์ด ๋จ์ด์ง๋ ํ์ ๊ณผ์ ํฉ vs ๊ณผ์์ ํฉ ๊ณผ์์ ํฉ ...
1. EDA ๊ฐ์ EDA๋? ๋ฐ์ดํฐ๋ฅผ ์์ฝํ๊ณ , ์ฃผ์ ํน์ฑ์ ์๊ฐ์ ์ผ๋ก ํ์ํ๋ ๊ณผ์ EDA ์ฃผ์ ๋ชฉ์ ๋ฐ์ดํฐ ๊ตฌ์กฐ ์ดํด ์ด์์น / ๋ฐ์ดํฐ ํจํด ๋ฐ๊ฒฌ ๊ฐ์ค ์๋ฆฝ์ ํตํ ํต๊ณ ๋ชจ๋ธ๋ง...
์์ฆ ์จ๋ผ์ธ์ ์๋ง์ ํ๋ซํผ์์ ๋ง์ ML ๊ฒฝ์ง๋ํ๊ฐ ์งํ๋๊ณ ์๋ค. ๊ทธ ์ค ๊ฐ์ธ์ ์ผ๋ก ์ฒ์ ML ๋ํ๋ฅผ ์งํํด๋ณด๋ ๋งํผ, ์ด์ ์์ ์ ๋ ํ๊ณ ๊ฐ๋ฉด ์ข์ ๋ถ๋ถ์ ๋ํด ์ ๋ฆฌํด ๋ณด๊ณ ์ ํ๋ค.
๋ฌธ์ N๊ฐ์ ์ ์๊ฐ ์ฃผ์ด์ง๋ฉด, ์ด ์ ์๋ค์ ํฉ S์ ๋ถํธ๋ฅผ ๊ตฌํ๋ ํ๋ก๊ทธ๋จ์ ์์ฑํ์์ค.
1. Streamlit์ ํ์ฉํ ์น ํ๋กํ ํ์ ๊ตฌํ 1.1 ํ๋กํ ํ์ (Prototype) ์๋ฒฝํ ์ ํ์ด ๋์ค๊ธฐ ์ , ํ์ธ ๊ฐ๋ฅํ ์ํ ๋ฒ์ ๋ฐ์นญ ์ Test๋ฅผ ์ํด ๊ฐ๋ฐ AI ๋ชจ๋ธ์ Input โ Output์ ํ์ธํ ์ ์๋๋ก ์ค์ ...
๋ฌธ์ ํ์๋ ์ง๊ธ $(x, y)$์ ์๋ค. ์ง์ฌ๊ฐํ์ ๊ฐ ๋ณ์ด ์ขํ์ถ์ ํํํ๊ณ ,ย ์ผ์ชฝ ์๋ ๊ผญ์ง์ ์ $(0, 0)$, ์ค๋ฅธ์ชฝ ์ ๊ผญ์ง์ ์ $(w, h)$์ ์๋ค. ์ง์ฌ๊ฐํ์ ๊ฒฝ๊ณ์ ๊น์ง ๊ฐ๋ ๊ฑฐ๋ฆฌ์ ์ต์๊ฐ์ ๊ตฌํ๋ ํ๋ก๊ทธ๋จ์ ์์ฑํ์์ค.
๋ฌธ์ ํ ์คํธ์์ ์ค์ ์ ๋ ฅ๋ฐ์ ๋ค, ์ค ๋ฒํธ๋ฅผ ์ถ๋ ฅํ๋ ํ๋ก๊ทธ๋จ์ ์์ฑํ์์ค. ์ ๋ ฅ ์ฒซ์งธ ์ค์ ์ค์ ์ $N$์ด ์ฃผ์ด์ง๋ค. ๋์งธ ์ค๋ถํฐ $N$๊ฐ์ ์ค์ ๊ฐ ์ค์ ๋ด์ฉ์ด ์ฃผ์ด์ง๋ค. ๊ฐ ์ค์ ์๋ ๊ธ์์ ๊ฐ์๋ 50๊ธ์๋ฅผ ๋์ง ์๋๋ค.
๋ฌธ์ ๋ ์ซ์ $R1$๊ณผ $R2$๊ฐ ์์ ๋, ๋ ์์ ํ๊ท $S$๋ $(R1+R2)/2$์ ๊ฐ๋ค. ์๊ทผ์ด๋ ์ ์ธ์ด ์์ผ ์ ๋ฌผ๋ก ๋ ์ซ์ $R1$๊ณผ $R2$๋ฅผ ์ฃผ๋ ค๊ณ ํ๋ค. ์์ผ ํํฐ์์ ์๊ทผ์ด๋ ์ ์ธ์ด์๊ฒ ์ด ๋ ์ซ์๋ฅผ ๋งํด์ฃผ๊ณ , ์ ์ธ์ด๋ ์ด ์ซ์๋ฅผ ๋ฐ์ ์ ๋๋ค...
๋ฌธ์ ํํฐ๊ฐ ๋๋๊ณ ๋๋ฉด, ์ฌ๋๋ค์ ๋๊ฐ ํํฐ์ ์๋์ง์ ์ผ๋ง๋ ๋ง์ ์ฌ๋๋ค์ด ์๋์ง๋ฅผ ๊ถ๊ธํดํ๋ค. ๋ณดํต ํํฐ๋ ๋งค์ฐ ํฌ๊ฒ ์ด๋ฆฌ๊ธฐ ๋๋ฌธ์, ์ ํํ๊ฒ ๋ช ๋ช ์ด ์ฐธ๊ฐํ๋์ง ์ ์๊ฐ ์๋ค.
๋ฌธ์ Byteland Airlines recently extended their aircraft fleet with a new model of a plane. The new acquisition hasย $n_1$ย rows of seats in the busines...
๋ฌธ์ Given two integers, calculate and output their sum.
๋ฌธ์ ์์ ์ด ๋ฐฑ์ค ์จ๋ผ์ธ ์ ์ง(BOJ)์์ ๋ง์ ๋ฌธ์ ์ ์์ ์์ด๋๋ฅผ ๊ทธ๋๋ก ์ถ๋ ฅํ๋ ํ๋ก๊ทธ๋จ์ ์์ฑํ์์ค.
๋ฌธ์ ๋๊ท๋ ์ธ์๋ฅผ ํ๋ค๊ฐ ์ ๋ ฌ์ด ํ๊ณ ์ถ์ด์ก๋ค.
๋ฌธ์ ์์ฐ์ $N$์ด ์ฃผ์ด์ก์ ๋, $N$๋ถํฐ 1๊น์ง ํ ์ค์ ํ๋์ฉ ์ถ๋ ฅํ๋ ํ๋ก๊ทธ๋จ์ ์์ฑํ์์ค.
๋ฌธ์ JOI๊ตฐ์ ์นด๋ ๊ฒ์์ ํ๊ณ ์๋ค. ์ด ์นด๋ ๊ฒ์์ 5ํ์ ๊ฒ์์ผ๋ก ์งํ๋๋ฉฐ, ๊ทธ ์ด์ ์ผ๋ก ์น๋ถ๋ฅผ ํ๋ ๊ฒ์์ด๋ค.
1. EM Algorithm 1.1 ๊ฐ์ MLE๋ฅผ ๊ตฌํ๋ ๊ธฐ๋ฒ ํ๋ฅ ๋ถํฌ์ Latent Variable์ ์ถ์ ํ์ฌ, ์ด๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ๋ชจ๋ธ ํ๋ผ๋ฏธํฐ๋ฅผ ๋ฐ๋ณต์ ์ผ๋ก ๊ฐ์ ํ๋ ์๊ณ ๋ฆฌ์ฆ ๋ ๋จ๊ณ๋ฅผ ๋ฒ๊ฐ์ ๋ฐ๋ณต์ ์ผ๋ก ์ํํ๋ฉฐ ๋ชจ๋ธ ํ๋ผ๋ฏธํฐ๋ฅผ ๊ฐ์ ํด ๋๊ฐ ...
๋ฌธ์ A pyramid of blocks is constructed by first building a base layer of n blocks and then adding n-1 blocks to the next layer. This process is repe...
1. Variational Inference (๋ณ๋ถ์ถ๋ก ) 1.1 Variational Inference์ ํ์์ฑ Variational Inference โ ์์ฑ ๋ชจ๋ธ์ ํ์ต์ํค๋ ๋ํ์ ์ธ ๋ฐฉ๋ฒ๋ก Supervised Learning: $x$...
๋ฌธ์ 1์์๋ถํฐ 6๊น์ง์ ๋์ ๊ฐ์ง 3๊ฐ์ ์ฃผ์ฌ์๋ฅผ ๋์ ธ์ ๋ค์๊ณผ ๊ฐ์ ๊ท์น์ ๋ฐ๋ผ ์๊ธ์ ๋ฐ๋ ๊ฒ์์ด ์๋ค.
1. ์์ฑ๋ชจ๋ธ ๊ฐ์ 1.1 ์์ฑ๋ชจ๋ธ ๊ฐ์ Training data๊ฐ sampling ๋ ๋ถํฌ์์ ๊ฐ์ ๋ถํฌ์ ์๋ก์ด sample์ ์์ฑํ๋ model By Formula $P_{\text{data}}(x)...
๋ฌธ์ ์ฒซ์งธ ์ค์๋ย ๋ณ $N$๊ฐ, ๋์งธ ์ค์๋ย ๋ณ $N-1$๊ฐ, โฆ, $N$๋ฒ์งธ ์ค์๋ ๋ณ 1๊ฐ๋ฅผ ์ฐ๋ ๋ฌธ์
1. ์ต์ Recsys ๋ํฅ 1.1 ์ถ์ฒ์์คํ ์ต๊ทผ๋ํฅ Recsys ๋ฐ์ ๋ฐฉํฅ Shallow Model ํ๋ ฌ ๋ถํด๋ฅผ Recsys์ ํ์ฉ(์ ๋ชจ๋ธ๋ง ํ๋ ค๋ฉด, ์ด๋ป๊ฒ ํ๋ ฌ์ ๋ถํดํด์ผ ํ ๊น) ...
๋ฌธ์ ์ฒซ์งธ ์ค์๋ ๋ณ 1๊ฐ, ๋์งธย ์ค์๋ ๋ณ 2๊ฐ, N๋ฒ์งธย ์ค์๋ ๋ณ N๊ฐ๋ฅผ ์ฐ๋ ๋ฌธ์
๋ฌธ์ ์ฌ ๊ณจ๋ ๋ญ๋น ํด๋ฝ์ ํ์๋ค์ ์ฑ์ธ๋ถ ๋๋ ์ฒญ์๋ ๋ถ๋ก ๋ถ๋ฅ๋๋ค.
๋ฌธ์ Welcome์ ์์ ์ถ๋ ฅ์ฒ๋ผ ์ถ๋ ฅํ๋ ํ๋ก๊ทธ๋จ์ ์์ฑํ์์ค.
๋ฌธ์ ์ฌํ์ด๋ ์ ์คํด ๋น๋ฒ ์ฝ์ํธ์์ ์๋ฆฌ๋ฅผ ๋๋ฌด ๋ง์ด ์ง๋ฌ์ ์ธํ์ผ์ ๊ฑธ๋ ธ๋ค.
RNN์ ๋ฌธ์ ์ ๊ณผ ๊ทธ ๋์ RNN์ ๊ฐ์ฅ ํฐ ๋ฌธ์ ์ : Exploding Gradient / Vanishing Gradient Exploding Gradient RNN์ BPTTํ๋ ๊ณผ์ ์์ ์ฅ๊ธฐ๊ฐ ๊ธฐ์ธ๊ธฐ๊ฐ ํ๋ฅด๋ฉด์ ๊ธฐ์ธ๊ธฐ๊ฐ ํญ๋ฐํ๋ ํ์ ...
RNN์ ๋ฌธ์ ์ : Exploding Gradient / Vanishing Gradient RNN์ ๊ฐ์ฅ ํฐ ๋ฌธ์ ์ ์ ์๊ณ์ด ๋ฐ์ดํฐ์ ==์ฅ๊ธฐ ์์กด ๊ด๊ณ๋ฅผ ํ์ตํ์ง ๋ชปํ==๋ ๋ฐ์ ์๋ค. BPTT ์ค์ ํ๋ผ๋ฏธํฐ๋ฅผ ์ ๋ฐ์ดํธํ๋ฉด์ ==๊ธฐ์ธ๊ธฐ ์์ค(Vanish...
RNN RNN ๊ฐ์: โ์ํํ๋ ์ ๊ฒฝ๋งโ ์ํํ๋ ์ ๊ฒฝ๋ง์ด๋? โ ๋ฐ๋ณตํด์ ๋๋์๊ฐ๋ ์ ๊ฒฝ๋ง ์ด๋ ํ ์ง์ ์์ ์์ํ ๊ฒ์ด, ์๊ฐ์ด ์ง๋ ๋ค์ ์๋ ์ฅ์๋ก ๋๋์์ค๋ ๊ฒ ๊ทธ๋ฆฌ๊ณ ์ด๋ฌํ ๊ณผ์ ์ ๊ณ์ํด์ ๋ฐ๋ณตํ๋ ๊ฒ ์ด๋ ๊ฒ โ์ํํ๋ ์ ๊ฒฝ๋งโ์ ๊ฐ์ถ...
๋ฌธ์ ๋ ์์ ์ ์๊ฐ ์ฃผ์ด์ก์ ๋, ์ฒซ ๋ฒ์งธ ์๊ฐ ๋ ๋ฒ์งธ ์๋ณด๋ค ํฐ์ง ๊ตฌํ๋ ํ๋ก๊ทธ๋จ์ ์์ฑํ์์ค.
๋ฌธ์ ๋ํ์ด๋ ์ค๋๋ ์ฐฝ๊ณ ๋ฅผ ๋ค์ง๋ค๊ฐ ๋ก์ ์ฒด์คํ๊ณผ ํผ์ค๋ฅผ ๋ฐ๊ฒฌํ๋ค.
๋ฌธ์ ์ฐ๋๊ฐ ์ฃผ์ด์ก์ ๋, ์ค๋ ์ด๋ฉด 1, ์๋๋ฉด 0์ ์ถ๋ ฅํ๋ ํ๋ก๊ทธ๋จ์ ์์ฑํ์์ค.
๋ฌธ์ ์์ด ์๋ฌธ์์ ๋๋ฌธ์๋ก ์ด๋ฃจ์ด์ง ๋จ์ด๋ฅผ ์ ๋ ฅ๋ฐ์ ๋ค, ๋๋ฌธ์๋ ์๋ฌธ์๋ก, ์๋ฌธ์๋ ๋๋ฌธ์๋ก ๋ฐ๊พธ์ด ์ถ๋ ฅํ๋ ํ๋ก๊ทธ๋จ์ ์์ฑํ์์ค.
๋ฌธ์ ์ํ๋ฒณ์ผ๋ก๋ง ์ด๋ฃจ์ด์ง ๋จ์ด๋ฅผ ์ ๋ ฅ๋ฐ์, ๊ทธ ๊ธธ์ด๋ฅผ ์ถ๋ ฅํ๋ ํ๋ก๊ทธ๋จ์ ์์ฑํ์์ค.
๋ฌธ์ $N$์ ์ ๋ ฅ๋ฐ์ ๋ค, ๊ตฌ๊ตฌ๋จ $N$๋จ์ ์ถ๋ ฅํ๋ ํ๋ก๊ทธ๋จ์ ์์ฑํ์์ค. ์ถ๋ ฅ ํ์์ ๋ง์ถฐ์ ์ถ๋ ฅํ๋ฉด ๋๋ค.
๋ฌธ์ ์ฒซ์งธ ์ค์๋ ๋ณ 1๊ฐ, ๋์งธ ์ค์๋ ๋ณ 2๊ฐ, $N$๋ฒ์งธ ์ค์๋ ๋ณ $N$๊ฐ๋ฅผ ์ฐ๋ ๋ฌธ์
๋ฌธ์ ์ฌํ๋ฆฌ์๋๋ ์ธํฐ๋ท์ผ๋ก๋ง ์กด์ฌํ๋ ๋ฏธ์คํ ๋ฆฌํ ๋๋ผ์ด๋ค. ์ฌํ๋ฆฌ์๋์๋ 2๊ฐ์ ์๋ธ๋๋ฉ์ธ์ด seunghwan.royal.gov.sw์ kyuhyun.royal.gov.sw ์ด ์๋๋ฐ, ์ด๊ฒ์ด couple.royal.gov.sw์ผ๋ก ํฉ์ณ์ง ๊ฒ์ด๋ค. ๊ทธ๋ฌ๋ ๋๋ฉ์ธ...
๊ฒฝ์ฌํ๊ฐ๋ฒ 1. ๊ฒฝ์ฌํ๊ฐ๋ฒ
1. ์ ํ ํ๊ท ๋ชจ๋ธ
๋ฌธ์ $N$๊ฐ์ ์ ์๊ฐ ์ฃผ์ด์ง๋ฉด, ์ด ์ ์๋ค์ ํฉ S์ ๋ถํธ๋ฅผ ๊ตฌํ๋ ํ๋ก๊ทธ๋จ์ ์์ฑํ์์ค.
1. Tensor์ ๋ ธ๋ฆ
1. Tensor์ ๋ชจ์๋ณ๊ฒฝ 2 1.1 cat ํจ์๋ฅผ ํ์ฉํ Tensor๋ค ๊ฐ์ ์ฐ๊ฒฐ cat vs stack stack : ์๋ก์ด ์ฐจ์์ ์์ฑํด์ Tensor ๊ฒฐํฉ cat : ๊ธฐ์กด์ ์ฐจ์์ ์ ์งํ๋ฉด์ Tensor ์ฐ๊ฒฐ ...
๋ฌธ์ KOI ์ ์์์๋ ๊ฑด๊ฐ์ ์ข๊ณ ๋ง์๋ ํ์ ์ค๋ฆฌ๊ตฌ์ด ์๋ฆฌ๋ฅผ ๊ฐํธํ๊ฒ ๋ง๋๋ ์ธ๊ณต์ง๋ฅ ์ค๋ธ์ ๊ฐ๋ฐํ๋ ค๊ณ ํ๋ค. ์ธ๊ณต์ง๋ฅ ์ค๋ธ์ ์ฌ์ฉํ๋ ๋ฐฉ๋ฒ์ ์ ๋นํ ์์ ์ค๋ฆฌ ํ์ ์ฌ๋ฃ๋ฅผ ์ธ๊ณต์ง๋ฅ ์ค๋ธ์ ๋ฃ์ผ๋ฉด ๋๋ค. ๊ทธ๋ฌ๋ฉด ์ธ๊ณต์ง๋ฅ ์ค๋ธ์ ์ค๋ธ๊ตฌ์ด๊ฐ ๋๋๋ ์๊ฐ์ ์ด ๋จ์๋ก...
1.Tensor์ ์ธ๋ฑ์ฑ๊ณผ ์ฌ๋ผ์ด์ฑ 1.1 Tensor์ indexing & slicing โ Numpy์ ์ธ๋ฑ์ฑ, ์ฌ๋ผ์ด์ฑ ๋ฐฉ๋ฒ ์ ์ฌ Indexing : Tensor ํน์ ์์น์ ์์์ ์ ๊ทผํ๋ ๊ฒ Slicing : ๋ถ๋ถ์งํฉ์ ์ ํํ์ฌ ์๋ก์ด S...
1. Tensor์ ์์ฑ 1.1 ํน์ ํ ๊ฐ์ผ๋ก ์ด๊ธฐํ๋ Tensor ์์ฑ, ๋ณํ 0์ผ๋ก ์ด๊ธฐํ๋ Tensor ์์ฑ: zeros 1-D Tensor (5) : a = torch.zeros(5) 2-D Tensor (2x3) : b...
๋ฌธ์ ์๋ฌธ ๋ฌธ์ฅ์ ์ ๋ ฅ๋ฐ์ ๋ชจ์์ ๊ฐ์๋ฅผ ์ธ๋ ํ๋ก๊ทธ๋จ์ ์์ฑํ์์ค. ๋ชจ์์ โaโ, โeโ, โiโ, โoโ, โuโ์ด๋ฉฐ ๋๋ฌธ์ ๋๋ ์๋ฌธ์์ด๋ค.
1. PyTorch์ ๋ฐ์ดํฐ ํ์
1. PyTorch Introduction