AI
Knowledge Distillation 지식 증류
1. Knowledge Distillation 이란 Knowledge(지식)을 Distillation(증류), 말 그대로 지식을 증류, 전달한다는 뜻입니다. 비교적 정확도가 높고 추론시간이 긴 복잡한 모델로부터 그 기능을 추출해와서 간단한 모델에게 전해줍니다. 2. 어디에 쓸까 최근에 삼성에서 공개한 갤럭시 S24 시리즈에는 새로운 인공지능을 탑재해 출시했을 만큼, 일상생활에 인공지능이 많이 쓰이고 있습니다. 만약 우리가 S24모델을 구매해서 인공지능을 사용한다고 가정해봅시다. 높은 정확도는 당연하게도 필수겠지만, A. 정확도 95%, 추론시간 1시간 B. 정확도 90%, 추론시간 1분 두 모델 중 어느것이 우리가 사용하기에 적합할지 따져보면, 아무래도 B 모델이겠죠. 복잡한 모델로부터 우리가 필요한 가..
2024. 2. 6. 20:44