ย ์ง์ฑ
์๊ฐ
ํผ์นด๋ถ๋ฉ์ค๋ On-Device AI๋ฅผ ํตํด ์ธ์์ ๋ฐ๊ฟ ๊ธฐ์ ์ ํจ๊ป ๋ง๋ค์ด๊ฐ ML Engineer๋ฅผ ์ฐพ์ต๋๋ค. ํผ์นด๋ถ๋ฉ์ค์ ํจ๊ป ๊ธฐ์ ์ ํตํด ๋น์ฆ๋์ค์ ํ์ ์ ์ด๋์ด ๊ฐ ์ค๋น๊ฐ ๋์
จ๋ค๋ฉด ์๋ ๋ด์ฉ์ ํ์ธํด์ฃผ์ธ์
ย ์ฐ๋ฆฌ๊ฐ ํจ๊ปํ๊ณ ์ถ์ ๋ถ์ ์ด๋ฐ ๋ถ์ด์์
ํผ์นด๋ถ๋ฉ์ค๋ ๋น ๋ฅด๊ฒ ๋ณํํ๋ ์ธ๊ณต์ง๋ฅ ์๋ ์์์, ๋จ์ํ ๊ฒฝ๋ ฅ๋ณด๋ค ์์ ๋ง์ ๋ฐฉ์์ผ๋ก ๋ฌธ์ ๋ฅผ ํ๊ณ , ๊ธฐ์ ์ ๋ค๋ฃจ๋ ๊ฐ๊ฐ๊ณผ ํ๋๋ฅผ ๋ ์์คํ๊ฒ ์๊ฐํฉ๋๋ค.
1. AI ํด์ ์์ฐ์ค๋ฝ๊ฒ ํ์ฉํ ์ ์๋ ๋ถ
์ต์ AI ๋๊ตฌ๋ค์ ๋จ์ํ โ์ฌ์ฉโํ๋ ๊ฒ์ ๋์ด, ์ํฉ์ ๋ง๊ฒ ์ต์ ํํ๊ณ ์กฐํฉํ ์ ์๋ ๋ถ์ ์ฐพ๊ณ ์์ด์. ๊ธฐ์ ์ ์ดํดํ๊ณ , ํ์ํ ๊ฒฐ๊ณผ๋ฅผ ์ด๋์ด๋ด๋ ๋ฐ ๋ฅ์ํ ๋ถ์ด๋ฉด ์ข๊ฒ ์ด์.
2. ์๋ํ์ ๋๊ตฌ ํ์ฉ์ ํตํ โ์์ฐ์ฑ์ ๋ง๋ฒโ์ ๋ณด์ฌ์ค ์ ์๋ ๋ถ
๋ฐ๋ณต๋๊ณ ์ค๋ ๊ฑธ๋ฆฌ๋ ์์
์ ์์ฐ์ ์ผ๋ก ํด๊ฒฐํ ์ ์๋ ๋ถ์ด๋ผ๋ฉด ์ ๋ง ๋ฉ์ง๊ฒ ์ฃ . ๋จ๋ค๊ณผ ๊ฐ์ ์๊ฐ ์์์๋ ๋ ๋ฉ๋ฆฌ ๊ฐ ์ ์๋ ๋ฐฉ๋ฒ์ ๊ณ ๋ฏผํ๋ ๋ถ์ ํ์ํฉ๋๋ค.
3. AI๋ฅผ ๋ฏฟ๋, ์ค์ค๋ก ๊ฒ์ฆํ๊ณ ํ๋จํ ์ ์๋ ๋ถ
AI๋ ํ๋ฅญํ ๋๊ตฌ์ง๋ง, ๋ ์ ๋ต์ ์ฃผ์ง ์์์. ๊ฒฐ๊ณผ๋ฅผ ๋นํ์ ์ผ๋ก ๋ฐ๋ผ๋ณด๊ณ , ๋ ๋์ ๋ฐฉํฅ์ ๊ณ ๋ฏผํ ์ค ์๋ ๋ถ์ด๋ผ๋ฉด ์ ํฌ์ ์ ๋ง์ ๊ฑฐ์์.
ํผ์นด๋ถ๋ฉ์ค๋ ์จ๋๋ฐ์ด์ค AI ๊ธฐ์ ๋ก ๋ฏธ๊ตญ ์์ฅ ์ง์ถ์ ์ค๋นํ๊ณ ์๋ ๊ธ๋ก๋ฒ ํ์ด์์. ๊ทธ๋์ ์์ด๋ก ์ํตํ ์ ์๋ ๋ฅ๋ ฅ๊ณผ, AI ์๋น์ค ๊ฐ๋ฐ์ ๋ํ ๊ฒฝํ(2๋
์ด์ ํน์ ๊ทธ์ ์คํ๋ ์ค๋ ฅ)์ด ๊ผญ ํ์ํด์.
ํด์ธ ํ๊ณผ ์ง์ ํ์
ํ๊ณ , ๋น ๋ฅด๊ฒ ์ฑ์ฅํ๋ ๊ธ๋ก๋ฒ ์์ฅ ์์์ ํจ๊ป ๋ถ๋ชํ๊ณ ๋ฐฐ์ฐ๋ฉฐ ์ฑ์ฅํ๊ณ ์ถ์ ๋ถ์ด๋ผ๋ฉด ๋ถ๋ช
์ฆ๊ฒ๊ฒ ์ผํ์ค ์ ์์ ๊ฑฐ์์.
ย ์ฃผ์ ์
๋ฌด
โข
ONNX / OpenVINO ๊ธฐ๋ฐ ๋ชจ๋ธ ๋ณํ ๋ฐ ์ถ๋ก ์ต์ ํ
โข
๊ฒฝ๋ํ๋ LLM์ latency, memory, throughput ์ธก์ ์๋ํ ๋๊ตฌ ๊ฐ๋ฐ
โข
๋ค์ํ AI PC ํ๊ฒฝ(Linux/Windows/x86/ARM/Intel GPU)์์ ์คํ ๊ฐ๋ฅํ ์ถ๋ก ํจํค์ง ๊ตฌ์ฑ (Docker, Conda ๋ฑ)
โข
๋ด๋ถ ๋ชจ๋ธ ํ
์คํธ ์๋ํ ํ์ดํ๋ผ์ธ ๊ตฌ์ฑ ๋ฐ ์คํ ๊ด๋ฆฌ
โข
์ฑ๋ฅ ๋ฆฌํฌํธ ์๋ํ ๋ฐ ๋๋ฐ์ด์ค๋ณ ๋น๊ต ์คํ ์ง์
โข
AWS ๋๋ GCP ๊ธฐ๋ฐ์์์ AI ๋ชจ๋ธ ๋ฐฐํฌ ๋ฐ ์ด์ ์ธํ๋ผ ๊ด๋ฆฌ
ย ์๊ฒฉ ์๊ฑด
โข
Python ๊ธฐ๋ฐ MLOps ๋๋ inference ์์ง๋์ด๋ง ์ค๋ฌด ๊ฒฝํ
โข
ONNX / ONNX Runtime, OpenVINO ๋ฑ ์ถ๋ก ํ๋ ์์ํฌ ์ค๋ฌด ๊ฒฝํ
โข
Docker, Conda ๋ฑ ์คํ ํ๊ฒฝ ๊ตฌ์ฑ ๋ฐ ํจํค์ง ๋ฅ๋ ฅ
โข
์ฑ๋ฅ ๋ฒค์น๋งํฌ ์๋ํ ๋๊ตฌ ๋๋ CLI ์คํฌ๋ฆฝํธ ๊ฐ๋ฐ ๊ฒฝํ
โข
Git, CI/CD, ์คํ ๊ด๋ฆฌ ๋๊ตฌ (์: MLflow) ํ์ฉ ๋ฅ๋ ฅ
โข
๋ค์ํ ํ๋์จ์ด ๋ฐฑ์๋(x86, ARM, Intel GPU ๋ฑ) ๋์ ๊ฒฝํ
โข
AWS ๋๋ GCP ๊ธฐ๋ฐ์ S3, EC2, GCS ๋ฑ ํด๋ผ์ฐ๋ ์ปดํจํ
๋ฐ ์คํ ๋ฆฌ์ง ์๋น์ค ํ์ฉ ๊ฒฝํ
ย ๊ทผ๋ฌด ํ๊ฒฝ๋ ์๊ฐํ ๊ฒ์
๊ทผ๋ฌด์ง
โข
ํผ์นด๋ถ๋ฉ์ค์ ๊ทผ๋ฌด์ง๋ ์์ธ ๊ฐ๋จ, ์ญ์ผ์ญ 8๋ฒ ์ถ๊ตฌ์์ ๋๋ณด 3๋ถ ๊ฑฐ๋ฆฌ์ ์์ด์. ๊ตํต๋ ํธํ๊ณ , ๋ง์ง๋ ๋ง๊ณ , ์ถํด๊ทผ๋ ์คํธ๋ ์ค ์์ด ํ ์ ์์ด์ :)
์ฐ๋ฆฌ๋ ์คํํธ์
๋ค์ด ๊ฐ์ฅ ์ ํธํ๋ ๊ณต๊ฐ ์ค ํ๋์ธ ์ค๋ ์งํ๋๋(Orange Planet)์ ์
์ฃผํด ์์ด์. ์พ์ ํ๊ณ ์๋ํ ๋ถ์๊ธฐ์ ์ฌ๋ฌด์ค์ ๋ฌผ๋ก ์ด๊ณ , ๊ณต์ฉ ํ์์ค, ํด๊ฒ ๊ณต๊ฐ, ์ปคํผ ๋ฑ๋ฑ ์ผํ ๋ ํ์ํ ๊ฒ๋ค์ด ์ ๊ฐ์ถฐ์ ธ ์์ด์.
๊ณต๊ฐ์ด ๊ถ๊ธํ๋ค๋ฉด ์๋ ๋ธ๋ก๊ทธ๋ฅผ ํ๋ฒ ๊ตฌ๊ฒฝํด๋ณด์ธ์!
์ ๊ท ๋ฉค๋ฒ ์ ํ
โข
์ฒ์์๋ ์๋ก๋ฅผ ์์๊ฐ๋ ์๊ฐ์ด ํ์ํ๋๊น, 3๊ฐ์๊ฐ์ ์จ๋ณด๋ฉ ๊ธฐ๊ฐ์ ํจ๊ป ํ๊ฒ ๋ผ์. ์ด ๊ธฐ๊ฐ ๋์์๋ ์ฐ๋ฆฌ๋ โ์์ตโ์ด๋ผ๋ ์ด์ ๋ก ๋๊ตฐ๊ฐ๋ฅผ ๋ค๋ฅด๊ฒ ๋ํ์ง ์์์.
์ฒ์๋ถํฐ ๊ฐ์ ํ์์ผ๋ก์ ์กด์ค๋ฐ๊ณ , ํจ๊ป ๊ณ ๋ฏผํ๊ณ , ํจ๊ป ์ฑ์ฅํ๋ ๋ฌธํ๋ฅผ ์งํฅํด์. ์ ๋ง๋๋ค๋ ํ์ ์ด ์๊ธฐ๋ฉด ์์ฐ์ค๋ฝ๊ฒ ์ ๊ท ๋ฉค๋ฒ๋ก ์ ํ๋์ด ํจ๊ป ์ค๋ ์ผํ๊ฒ ๋ ๊ฑฐ์์ :)
์ ๋ฌด ๋ฌธํ
โข
ํผ์นด๋ถ๋ฉ์ค๋ ๋ฌด์กฐ๊ฑด ์ค๋ ์์ ์๋๋ค๊ณ ํด์ ์ข์ ๊ฒฐ๊ณผ๊ฐ ๋์จ๋ค๊ณ ๋ฏฟ์ง ์์์. ๋๊ฐ ์์ผ์ ํ๋ ์ผ์ด ์๋๋ผ, ์๋ก๋ฅผ ์ ๋ขฐํ๊ณ ๊ฐ์ ๋งก์ ์ผ์ ์ฑ
์์ ๋คํ๋ ๋ฌธํ๋ฅผ ์์คํ๊ฒ ์๊ฐํด์.
์ผ์ฃผ์ผ์ ํ ๋ฒ ์คํ๋ฆฐํธ ๋ฆฌ๋ทฐ์ ๋ฐ์ผ๋ฆฌ ์คํฌ๋ผ์ ํตํด ์์ฐ์ค๋ฝ๊ฒ ์
๋ฌด ์ํฉ์ ๊ณต์ ํ๊ณ , ํ์ํ ๋ ์๋ก ๋์๊ฐ๋ฉฐ ํจ๊ป ๋์๊ฐ๊ณ ์์ด์. ๋๊ตฐ๊ฐ์ ์ง์๋ฅผ ๊ธฐ๋ค๋ฆฌ๊ธฐ๋ณด๋ค๋, ์ค์ค๋ก ๋ฐฉํฅ์ ์ก๊ณ ์์ง์ด๋ ๊ฑธ ๋ ์ข์ํ๋ ํ์ด์์.
์ํํ ์ํต์ ์ํด ๋๋ฉด๊ทผ๋ฌด๋ฅผ ์งํฅํ์ง๋ง, ์ถํด๊ทผ ์๊ฐ์ ์ ์ฐํ๊ฒ ์กฐ์ ํ ์ ์๋ ํ๋ ฅ๊ทผ๋ฌด์ ๋ฅผ ์ด์ํ๊ณ ์์ด์. ์ฝ์ดํ์์ ์ค์ 10์ 30๋ถ๋ถํฐ ์คํ 3์ 30๋ถ๊น์ง, ์ด ์๊ฐ๋ง ํจ๊ป ์ง์ผ์ฃผ๋ฉด ๋๋จธ์ง๋ ๋ณธ์ธ ๋ฆฌ๋ฌ์ ๋ง๊ฒ ์์ ๋กญ๊ฒ ์ผํ ์ ์์ด์. ์ผ๊ณผ ์ถ์ ๊ท ํ๋, ํจ์จ์ ์ธ ์ง์ค๋ ๋ชจ๋ ์ฑ๊ธธ ์ ์๋๋ก ํญ์ ๊ณ ๋ฏผํ๊ณ ์์ด์.
๋ฐค 10์ ์ดํ ํด๊ทผ ์์๋ ์ผ๊ฐ ํ์๋น๋ฅผ ์ง์ํด๋๋ฆฌ๊ณ ์์ด์ 
๊ทธ ์ธ์๋ ํผ์นด๋ถ๋ฉ์ค๋ ์ด๋ ๊ฒ ์ผํฉ๋๋ค
โข
์ต์ ๋งฅ๋ถ ํ๋ก์ ๊ณ ํด์๋ ๋ชจ๋ํฐ, ๋น์ฐํ ๊ธฐ๋ณธ์ด์์. ๋ ํธํ๊ฒ, ์พ์ ํ๊ฒ ์ผํ ์ ์๋๋ก ์ต์ ์ ์ฅ๋น๋ฅผ ์ง์ํด์.
โข
๋ฐ๋ณต ์
๋ฌด๋ AI์๊ฒ ๋งก๊ธฐ์ธ์! Cursor AI๋ฅผ ์ ์ง์์๊ฒ ์ ๊ณตํด์, ๋ ์ค์ํ ์ผ์ ์ง์คํ ์ ์๋๋ก ๋๊ณ ์์ด์.
ย Contact Us
โข
์ด๋ฉ์ผ ์ ๋ชฉ์ ์ง์ํ๋ ์ง์ฑ
์ ํฌํจํด ์ฃผ์ธ์.
โข
์ง๋ฌด ๊ด๋ จ ํฌํธํด๋ฆฌ์ค ๋งํฌ๋ ์๋ฃ๋ฅผ ์ฒจ๋ถํด์ฃผ์ธ์.
โข
๊ถ๊ธํ์ ์ ์ด ์๋ค๋ฉด ์ปคํผ์ฑ๋ ํ์์
๋๋ค 