Deep Learning Inference Optimization Engineer(๋ฅ๋ฌ๋ ์ถ๋ก ์ต์ ํ ๊ฐ๋ฐ์)
ํฉ๋ฅํ๊ฒ ๋ ํ์ ๋ํด ์๋ ค๋๋ ค์
๋ทฐ๋ฐ์ DLํ์ LiDAR ์ธ์์ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด ๋ฅ๋ฌ๋ '์์คํ ' ์์ฒด๋ฅผ ์ฐ๊ตฌํฉ๋๋ค. ์ ํฌ๋ ์ฑ๋ฅ๊ณผ ์ค์๊ฐ์ฑ์ ํธ๋ ์ด๋์คํ๋ฅผ ํํํ์ง ์์ผ๋ฉฐ , Edge ๋๋ฐ์ด์ค์ ๋ฐ๋ก ์ ์ฉ๋๋ ์ค์ง์ ์ธ ๊ธฐ์ ์ ๊ฐ๋ฐํ๋ ๊ฒ์ ๋ชฉํ๋ก ํฉ๋๋ค.
์ฐ๊ตฌ์ ๋ํด์๋ ๋๊ตฌ๋ณด๋ค ์น์ดํ๊ฒ ๋ชฐ์ ํ์ง๋ง, ํ๊ณผ ํจ๊ป ํ์ ์ ๋ง๋ค์ด ๊ฐ ์ ์๋ ๋๋ฃ๋ฅผ ์ฐพ๊ณ ์์ต๋๋ค.
ํฉ๋ฅํ๋ฉด ํจ๊ปํ ์ ๋ฌด์์
- ๋ฅ๋ฌ๋ ๋ชจ๋ธ์ ์ถ๋ก ์ฑ๋ฅ์ ํ๊ณ๊น์ง ๋์ด์ฌ๋ฆฌ๊ธฐ ์ํ ์ต์ ํ ์์ ์ํ
- ์ต์ ๋ชจ๋ธ ๊ฒฝ๋ํ ๊ธฐ์ (Quantization, Pruning ๋ฑ) ์ฐ๊ตฌ ๋ฐ ๊ฐ๋ฐ ์ ๋ฌด
- GPU ํ๋์จ์ด ์ํคํ ์ฒ ๊ธฐ๋ฐ ๋ฉ๋ชจ๋ฆฌ ์ ๊ทผ ๋ณ๋ชฉ ํ์ ๋ถ์ ๋ฐ ์ถ๋ก ์๋ ๊ฐ์
- ์ฑ๋ฅ ๊ทน๋ํ๋ฅผ ์ํ Optimized Inference Kernel ๊ตฌํ
- Edge Device ํ๊ฒฝ์์ ๋ชจ๋ธ ์ ํ๋ ์์ค ์ต์ํ ๋ฐ ์ถ๋ก ์๋ ์ต๋ํ
์ด๋ฐ ๋ถ๊ณผ ํจ๊ปํ๊ณ ์ถ์ด์
- ์ปดํจํฐ๊ณตํ, ์ ์๊ณตํ ๋ฑ ๊ด๋ จ ๋ถ์ผ ์์ฌ ์ด์ ๋๋ ๊ทธ์ ์คํ๋ ์ง์๊ณผ ๊ฒฝํ์ ๊ฐ์ถ ๋ถ
- C/C++ ๋ฐ CUDA๋ฅผ ํ์ฉํ ๊ฐ๋ฐ ๊ฒฝํ์ด ์์ผ์ ๋ถ
- TensorRT์ ๊ฐ์ ์ถ๋ก ์์ง์ ์ฌ์ฉํ์ฌ ๋ฅ๋ฌ๋ ๋ชจ๋ธ์ ์ต์ ํํ๊ณ ๋ฐฐํฌํด ๋ณธ ๊ฒฝํ์ด ์์ผ์ ๋ถ
- ๋ฌธ์ ์ ๊ทผ๋ณธ ์์ธ์ ๋ ผ๋ฆฌ์ ์ผ๋ก ๋ถ์ํ๊ณ , ๊ฐ์ค๊ณผ ๊ฒ์ฆ์ ํตํด ์ฒด๊ณ์ ์ผ๋ก ํด๊ฒฐํ๋ ๋ฅ๋ ฅ์ ๊ฐ์ถ ๋ถ
์ด๋ฐ ๋ถ๋ถ์ด ์์ผ๋ฉด ์ข์์
- ๋ฅ๋ฌ๋ ๋ชจ๋ธ ๊ณ ์ฑ๋ฅ ์ปค๋ ๊ฐ๋ฐ ๊ฒฝํ(CUDA, CCCL, SYCL, OpenMP, OpenCL, OpenGL)์ด ์์ผ์ ๋ถ
- ์๋ฒ ๋๋ ์์คํ ์ด๋ Edge Device ํ๊ฒฝ์์ ๋ชจ๋ธ ๋ฐฐํฌ ๋ฐ ์ต์ ํํ ๊ฒฝํ์ด ์์ผ์ ๋ถ
- 3D ์ปดํจํฐ ๋น์ ์๊ณ ๋ฆฌ์ฆ, ๊ฐ์ฒด ํ์ง, ์ถ์ , ํฌ์ธํธ ํด๋ผ์ฐ๋ ๋ฐ์ดํฐ ์ฒ๋ฆฌ ๊ฒฝํ์ด ์์ผ์ ๋ถ
- ์ฃผ์ ํจํด ์ธ์ ํํ(CVPR, ECCV, ICCV, ICLR, NeurIPS, ACL)์์ ์ 1์ ์๋ก ๋ ผ๋ฌธ ๋ฐํ ๊ฒฝํ์ด ์์ผ์ ๋ถ
๊ทผ๋ฌด ์กฐ๊ฑด
- ๊ทผ๋ฌดํํ : ์ ๊ท์ง (์์ต 3๊ฐ์ ์ ์ฉ)
- ๊ทผ๋ฌด์ผ์ : ์ฃผ 5์ผ (์์์ผ - ๊ธ์์ผ)
- ๊ทผ๋ฌด์ง์ญ : ์์ธ ์์ด๊ตฌ ๊ฐ๋จ๋๋ก 311, 19์ธต
- ๊ธ์ฌ : ์ฐ๋ด (ํ์ ํ ๊ฒฐ์ )
์ ์ถ ์๋ฅ
- ์ด๋ ฅ์ or ๊ฒฝ๋ ฅ๊ธฐ์ ์ (์์ ์์) ํ์ ์ ์ถ
- ํฌํธํด๋ฆฌ์ค ํ์
๋ทฐ๋ฐ ํฉ๋ฅ ์ฌ์
| ์์ํ | DLํ |
| ๊ฒฝ๋ ฅ ์ฌํญ | ๊ฒฝ๋ ฅ ๋ฌด๊ด |
| ๊ณ ์ฉ ํํ | ์ ๊ท์ง(์์ต 3๊ฐ์) ๋ณ์ญํน๋ก ์ ๋ฌธ์ฐ๊ตฌ์์(์ ์ง๊ฐ๋ฅ) |
| ๊ทผ๋ฌด์ง | ๋ํ๋ฏผ๊ตญ ์์ธํน๋ณ์ ์์ด๊ตฌ ๊ฐ๋จ๋๋ก 311๊ธธ |