Vector Quantization
도움받은 블로그 [[HuBERT]]의 예시를 들어보겠다. 여기서 여러 MFCCs 혹은 학습된 Encoder의 layer에서 나온 각각의 feature vector를 클러스터링을 통하여 각 카테고리들로 나누는 과정이 존재하는 것이 보이는가? 이 과정이 바로 Vector Quantization 이라고 할 수 있겠다. 비슷한 특징을 갖는 각기 다른 feature vector를 클러스터로 묶고, 한...
Quick context
First, this page captures one concrete build-log step, research note, or project lesson from Jeffrey Kim.
Next, use the tags, related reading, and home archive to move from this note to deeper material in the same topic cluster.
Finally, follow the RSS feed if you want the next experiment, retrospective, or paper review as soon as it ships.
Archive note
First, this imported note is intentionally compact. It acts as a pointer into the wider SecondBrain archive rather than a long-form standalone article.
Next, use the tags, related reading, and project sections to move toward deeper context. Those paths usually lead to fuller write-ups, experiments, or project retrospectives.
Finally, revisit this page together with the home archive and RSS feed when you want the follow-up posts that expand the same topic.
[[HuBERT]]의 예시를 들어보겠다.
여기서 여러 MFCCs 혹은 학습된 Encoder의 layer에서 나온 각각의 feature vector를 클러스터링을 통하여 각 카테고리들로 나누는 과정이 존재하는 것이 보이는가? 이 과정이 바로 Vector Quantization이라고 할 수 있겠다. 비슷한 특징을 갖는 각기 다른 feature vector를 클러스터로 묶고, 한 클러스터 안의 vector를 하나의 대표 벡터로 변환하는 과정이 바로 Vector Quantization인 것이다.