확률론에서 independent 의 정의 random variable, random vector에 대하여

이번 글에서는 independent의 정의에 대해 알아보자. 수학적인 정의에 대해 알아보자. independent는 random variable들, random vector들 대해 잘 정의 된다. 정의를 조금씩 확장해가면서 보도록 하자. 알았니? 그러면 시작해보도록 하자.

 

두개의 random varible에 대한 independent 정의

random variable $X$와 $Y$가 있다고 하자. 이것의 pdf라 줄여쓰는 probability density function 혹은 pmf라 줄여쓰는 probability mass function 을 $p_X, p_Y$ 라고 표시하자. 그리고 $X,Y$의 joint pdf혹은 joint pmf 를 $p_{X,Y}$라고 표시하자. 아래와 같이 joint pdf 혹은 joint pmf가 각각의 pdf혹은 pmf의 곱으로 표현될때 $X,Y$를 independent하다고 말한다.

$$p_{X,Y}(x,y) = p_X(x) p_Y(y) $$

 

임의의 유한개의 random variable에 대한 independent 정의

이제 논의를 유한개의 random variable로 확장하자. random variable $X_1,X_2,..,X_n$이 있다고 하자. 각각의 $X_i$의 pdf 혹은 pmf를 $p_i$라고 표시하자. 그리고 $X_1,...,X_n$의 joint pdf 혹은 joint pmf를 $p_{1,2,...,n}$라고 표시하자. 아래와 같이 joint pdf혹은 joint pmf가 pdf나 pmf의 곱으로 표현되면 $X_1,...,X_n$를 independent라고 말한다.

$$p_{1,2,..,n}(x_1,...,x_n) = p_1(x_1) \cdots p_n(x_n)$$

 

무한개의 random variable에 대한 independet 정의

무한개의 random variable $X_1,X_2,....$가 있다고 하자. 각각의 $X_i$의 pdf혹은 pmf를 $p_i$라고 표시하자. 그리고 $i_1,...,i_m$라는 유한개의 indices를 뽑았을 때 $X_{i_1},...,X_{i_m}$의 joint pdf 혹은 joint pmf를 $p_{i_1,...,i_m}$라고 표시하자. 아래와 같이 어떠한 index 조합 $i_1,...,i_m$에 대하여 joint pdf혹은 joint pmf가 pdf혹은 pmf의 곱으로 표현된다면 $X_1,X_2...$를 independent하다고 말한다.

$$ \text{For all combinations } \{ i_1,...,i_m\}, p_{i_1,...,i_m}(x_{i_1},...,x_{i_m}) = p_{i_1}(x_{i_1}) \cdots p_{i_m}(x_{i_m}) $$

 

진짜정의 random variable에 대한 independent 정의

random variable의 모임 $\{X_i\}_{i\in I}$가 있다고 하자. $I$는 index set이다. 사실 위의 내용과 동일하다. 동일하니까 다시 써본다. 

각각의 $X_i$의 pdf혹은 pmf를 $p_i$라고 표시하자. 그리고 $i_1,...,i_m$라는 유한개의 indices를 뽑았을 때 $X_{i_1},...,X_{i_m}$의 joint pdf 혹은 joint pmf를 $p_{i_1,...,i_m}$라고 표시하자. 아래와 같이 어떠한 index 조합 $i_1,...,i_m$에 대하여 joint pdf혹은 joint pmf가 pdf혹은 pmf의 곱으로 표현된다면 $X_1,X_2...$를 independent하다고 말한다.

$$ \text{For all combinations } \{ i_1,...,i_m\}, p_{i_1,...,i_m}(x_{i_1},...,x_{i_m}) = p_{i_1}(x_{i_1}) \cdots p_{i_m}(x_{i_m}) $$

다시 써서 보기 싫지만 바로 위의 경우는 random variable의 갯수가 countable이었고 지금은 random variable을 모아둔 index set에 대하여 제한이 없다. index set이 실수축일수도 있다.

 

random vector에 대한 independet 정의

이제 random vector에 대한 independent를 정의한다. random variable에 대한 정의와 동일하다. 동일하니까 다시 써볼까?

random vector 의 모임 $\{X_i\}_{i\in I}$가 있다고 하자. $I$는 index set이다. 사실 위의 내용과 동일하다. 동일하니까 다시 써본다. 

각각의 $X_i$의 pdf혹은 pmf를 $p_i$라고 표시하자. 그리고 $i_1,...,i_m$라는 유한개의 indices를 뽑았을 때 $X_{i_1},...,X_{i_m}$의 joint pdf 혹은 joint pmf를 $p_{i_1,...,i_m}$라고 표시하자. 아래와 같이 어떠한 index 조합 $i_1,...,i_m$에 대하여 joint pdf혹은 joint pmf가 pdf혹은 pmf의 곱으로 표현된다면 $X_1,X_2...$를 independent하다고 말한다.

$$ \text{For all combinations } \{ i_1,...,i_m\}, p_{i_1,...,i_m}(x_{i_1},...,x_{i_m}) = p_{i_1}(x_{i_1}) \cdots p_{i_m}(x_{i_m}) $$

random vector에 대해 independet를 정의했다. random variable의 idnependent에 대한 자연스러운 확장이다. 대상을 random variable에서 random vector로 바꿨을 뿐이다. 그러면 random vector에 대한 independent정의가 잘만 된다. 

 

이상으로 independent의 정의를 잘 알아봤다. 이것을 이용해서 수학적인 뭔가를 정의하곤 한다. 그것에 대해서는 다음에 보도록 하자. independent는 자주 나오는 개념이니 꼭 익혀두도록 하자.