[Week 8]BoostCamp AI Tech - Day36(모델경량화)

Search Space, Solution space, Time

 

Problem Space(aka. State Space)

 

문제가 정의된 공간 또는 상태(Solution Space 포함)

(답이 될 수 있는 공간은 Solution Space라고 한다)

 

ex)

피보나치(출처 : Boost Camp AI Tech)

출처 : Boost Camp AI Tech

Solution Space

 

답이 될 수 있는 영역 또는 집단

 

아래와 같은 문제가 있을 때, 파란색 영역을 가리킨다. 이 영역을 feasible region이라고 한다.

 

 

(단, 정확한 답은 아니니 대략적인 개념 상으로 이해하자)

 

Time-Space Trade-Off

 

어떤 하나의 알고리즘 문제를 풀 때, 시간을 덜 쓰고 공간을 더 쓰거나, 시간을 더 쓰고 공간을 덜 쓰는 경우를 말한다.

 

Entropy

 

Parameter Search

 

Hyperparameter Search

 

exploitation과 exploration을 반복하는 것, 이를 반복함으로써 비용이 크게 들기 때문에 개선이 필요하다

 

암호

 

부호(Coding)

 

-Encoding : 암호화

-Decoding : 복호화

 

압축률(Compression Rate)

 

- 허프만 코드 등