✦Mathology
확률과 통계고등학교 3학년

확률과 통계: 경우의 수, 순열, 조합, 이항정리 완전 정복

수능 확률과 통계의 핵심, 경우의 수를 완벽하게 이해하고 순열, 조합, 이항정리 개념부터 심화 유형까지 마스터하세요.

개요

확률과 통계의 첫걸음이자 가장 근간이 되는 단원이 바로 '경우의 수'입니다. 수능 확률과 통계에서 경우의 수는 확률 계산의 기본이 될 뿐만 아니라, 단독 문항으로도 최소 1~2문항이 꾸준히 출제되며 특히 4점 문항으로 등장하는 경우가 많습니다. 이 단원에서는 특정한 조건을 만족하는 사건의 가짓수를 체계적으로 세는 방법을 배우게 됩니다. '순열', '조합', 그리고 '이항정리'는 경우의 수를 세는 핵심 도구들로, 이 개념들을 정확히 이해하고 문제에 적용하는 연습이 매우 중요합니다. 단순 암기를 넘어, 각 개념이 어떤 상황에서 사용되어야 하는지 명확히 구분하고 복잡한 조건을 체계적으로 분석하는 능력을 키워야 고난도 문제까지 정복할 수 있습니다.

핵심 개념

1. 순열 (Permutation)

순열은 서로 다른 nn개의 원소에서 rr개를 택하여 순서대로 나열하는 경우의 수를 의미합니다. '순서'가 중요하다는 것이 핵심입니다.

  • 기본 순열 (PnP_n 또는 P(n,r)P(n, r)) 서로 다른 nn개에서 rr개를 택하여 일렬로 나열하는 순열의 수는 다음과 같습니다.

    P(n,r)=n!(n−r)!P(n, r) = \frac{n!}{(n-r)!} (단, n≥rn \ge r) 여기서 n!n! (엔 팩토리얼)은 n×(n−1)×⋯×2×1n \times (n-1) \times \dots \times 2 \times 1을 의미하며, 0!=10! = 1로 정의합니다.

    예제: 서로 다른 5권의 책 중 3권을 뽑아 책꽂이에 일렬로 꽂는 경우의 수는 P(5,3)=5!(5−3)!=5!2!=1202=60P(5, 3) = \frac{5!}{(5-3)!} = \frac{5!}{2!} = \frac{120}{2} = 60가지입니다.

  • 원순열 (Circular Permutation) 서로 다른 nn개의 원소를 원형으로 배열하는 경우의 수입니다. 시작과 끝이 없어 회전하여 같은 모양이 되는 것은 하나의 경우로 봅니다.

    (n−1)!(n-1)! (단, n≥2n \ge 2) 테이블에 nn명이 둘러앉는 경우를 생각할 수 있습니다.

    예제: 4명의 가족이 원탁에 둘러앉는 경우의 수는 (4−1)!=3!=6(4-1)! = 3! = 6가지입니다.

  • 같은 것이 있는 순열 nn개의 원소 중 같은 것이 각각 pp개, qq개, ..., kk개 있을 때, 이 nn개의 원소를 일렬로 나열하는 경우의 수입니다.

    n!p!q!…k!\frac{n!}{p!q!\dots k!} (단, p+q+⋯+k=np+q+\dots+k=n)

    예제: 'SUCCESS'라는 7개의 문자를 일렬로 나열하는 경우의 수는 (S가 3개, C가 2개) 7!3!2!1!1!=50406×2=504012=420\frac{7!}{3!2!1!1!} = \frac{5040}{6 \times 2} = \frac{5040}{12} = 420가지입니다.

  • 중복순열 (Permutation with Repetition) 서로 다른 nn개에서 중복을 허락하여 rr개를 택해 일렬로 나열하는 경우의 수입니다. 각 자리에 nn가지씩 올 수 있으므로 nn을 rr번 곱하는 형태입니다.

    nrn^r 또는 Πnr\Pi_n^r

    예제: 숫자 1, 2, 3으로 만들 수 있는 세 자리 자연수의 개수는 3×3×3=33=273 \times 3 \times 3 = 3^3 = 27가지입니다. (각 자리에 1, 2, 3 중 하나가 올 수 있음)

2. 조합 (Combination)

조합은 서로 다른 nn개의 원소에서 rr개를 택하기만 하는 경우의 수를 의미합니다. 순서에 관계없이 구성원만 같으면 같은 경우로 봅니다.

  • 기본 조합 (CnC_n 또는 C(n,r)C(n, r)) 서로 다른 nn개에서 rr개를 택하는 조합의 수는 다음과 같습니다.

    C(n,r)=(nr)=n!r!(n−r)!C(n, r) = \binom{n}{r} = \frac{n!}{r!(n-r)!} (단, n≥rn \ge r) 순열에서 rr개를 뽑아 나열한 경우 (P(n,r)P(n, r))를 r!r!로 나눈 것과 같습니다. ( rr개를 나열하는 r!r!가지가 조합에서는 모두 같은 한 가지 경우이기 때문)

    예제: 5명의 학생 중 3명의 대표를 선출하는 경우의 수는 (53)=5!3!2!=1206×2=10\binom{5}{3} = \frac{5!}{3!2!} = \frac{120}{6 \times 2} = 10가지입니다.

  • 조합의 성질

    1. (nr)=(nn−r)\binom{n}{r} = \binom{n}{n-r} (예: 5명 중 3명을 뽑는 것은 5명 중 2명을 뽑지 않는 것과 같음)
    2. (n0)=1\binom{n}{0} = 1, (nn)=1\binom{n}{n} = 1
    3. 파스칼의 법칙: (n−1r−1)+(n−1r)=(nr)\binom{n-1}{r-1} + \binom{n-1}{r} = \binom{n}{r}

  • 중복조합 (Combination with Repetition) 서로 다른 nn개에서 중복을 허락하여 rr개를 택하는 경우의 수입니다. 순서에 관계없이 선택된 원소들의 종류와 개수만 중요합니다.

    H(n,r)=n+r−1Cr=(n+r−1r)H(n, r) = _{n+r-1}C_r = \binom{n+r-1}{r}

    주로 '방정식의 음이 아닌 정수해 개수', '같은 종류의 물건을 서로 다른 상자에 넣는 방법', '선거에서 무기명 투표' 등에서 활용됩니다. '사과, 배, 감 세 종류의 과일 중 5개를 고르는 방법'처럼 생각할 수 있습니다. 이는 x+y+z=5x+y+z=5의 음이 아닌 정수해 개수와 같습니다.

    예제: 사과, 배, 감 세 종류의 과일 중에서 중복을 허락하여 5개를 선택하는 경우의 수는 H(3,5)=3+5−1C5=7C5=7C2=7×62×1=21H(3, 5) = _{3+5-1}C_5 = _7C_5 = _7C_2 = \frac{7 \times 6}{2 \times 1} = 21가지입니다.

3. 이항정리 (Binomial Theorem)

이항정리는 (a+b)n(a+b)^n과 같이 두 개의 항으로 이루어진 식을 전개했을 때, 각 항의 계수를 구하는 정리입니다. 주로 조합의 개념을 활용합니다.

  • 이항정리의 전개식

    (a+b)n=∑r=0n(nr)an−rbr(a+b)^n = \sum_{r=0}^{n} \binom{n}{r} a^{n-r} b^r 여기서 (nr)an−rbr\binom{n}{r} a^{n-r} b^r를 (a+b)n(a+b)^n의 일반항이라고 합니다. 각 항의 계수 (nr)\binom{n}{r}을 이항계수라고 부릅니다. 이는 nn개의 (a+b)(a+b) 괄호 중에서 bb를 rr번 선택하고 aa를 (n−r)(n-r)번 선택하는 경우의 수와 같습니다.

    예제: (x+2y)3(x+2y)^3의 전개식에서 x1(2y)2x^1 (2y)^2 항의 계수를 찾아봅시다. 일반항에서 a=x,b=2y,n=3a=x, b=2y, n=3입니다. bb의 지수가 2이므로 r=2r=2입니다. (32)x3−2(2y)2=3x1(4y2)=12xy2\binom{3}{2} x^{3-2} (2y)^2 = 3x^1 (4y^2) = 12xy^2 따라서 x1y2x^1 y^2 항의 계수는 12입니다.

  • 이항계수의 성질 (1+x)n=∑r=0n(nr)xr=(n0)+(n1)x+(n2)x2+⋯+(nn)xn(1+x)^n = \sum_{r=0}^{n} \binom{n}{r} x^r = \binom{n}{0} + \binom{n}{1}x + \binom{n}{2}x^2 + \dots + \binom{n}{n}x^n

    1. x=1x=1 대입: ∑r=0n(nr)=2n\sum_{r=0}^{n} \binom{n}{r} = 2^n

      (n0)+(n1)+(n2)+⋯+(nn)=2n\binom{n}{0} + \binom{n}{1} + \binom{n}{2} + \dots + \binom{n}{n} = 2^n (이는 nn개의 원소를 가진 집합의 부분집합의 개수와 같습니다.)

    2. x=−1x=-1 대입: ∑r=0n(−1)r(nr)=0\sum_{r=0}^{n} (-1)^r \binom{n}{r} = 0 (단, n≥1n \ge 1)

      (n0)−(n1)+(n2)−⋯+(−1)n(nn)=0\binom{n}{0} - \binom{n}{1} + \binom{n}{2} - \dots + (-1)^n \binom{n}{n} = 0 (홀수 번째 이항계수의 합과 짝수 번째 이항계수의 합이 같다는 의미)

  • 파스칼의 삼각형 (Pascal's Triangle) 이항계수들을 삼각형 모양으로 배열한 것으로, (n−1r−1)+(n−1r)=(nr)\binom{n-1}{r-1} + \binom{n-1}{r} = \binom{n}{r} (파스칼의 법칙)이 성립하여 각 숫자는 바로 위 양 옆의 숫자의 합으로 이루어집니다. 이항계수의 관계를 시각적으로 보여줍니다.

주요 공식 정리

| 공식 | 설명 | |------|------| | P(n,r)=n!(n−r)!P(n, r) = \frac{n!}{(n-r)!} | 서로 다른 nn개에서 rr개를 택하여 나열하는 순열의 수 | | (n−1)!(n-1)! | 서로 다른 nn개를 원형으로 나열하는 원순열의 수 | | n!p!q!…k!\frac{n!}{p!q!\dots k!} | nn개 중 같은 것이 p,q,…,kp, q, \dots, k개 있을 때 일렬로 나열하는 순열의 수 | | nrn^r | 서로 다른 nn개에서 중복을 허락하여 rr개를 택하여 나열하는 중복순열의 수 | | C(n,r)=(nr)=n!r!(n−r)!C(n, r) = \binom{n}{r} = \frac{n!}{r!(n-r)!} | 서로 다른 nn개에서 rr개를 택하는 조합의 수 | | H(n,r)=(n+r−1r)H(n, r) = \binom{n+r-1}{r} | 서로 다른 nn개에서 중복을 허락하여 rr개를 택하는 중복조합의 수 | | (a+b)n=∑r=0n(nr)an−rbr(a+b)^n = \sum_{r=0}^{n} \binom{n}{r} a^{n-r} b^r | 이항정리의 전개식 및 일반항 | | ∑r=0n(nr)=2n\sum_{r=0}^{n} \binom{n}{r} = 2^n | 이항계수의 총합 | | ∑r=0n(−1)r(nr)=0\sum_{r=0}^{n} (-1)^r \binom{n}{r} = 0 | 이항계수의 교대합 |

자주 나오는 유형

유형 1: 조건이 붙은 순열/조합 (적어도, 이웃, 이웃하지 않음, 특정 순서 등)

수능에서 가장 빈번하게 출제되는 유형으로, 기본적인 순열과 조합 공식에 다양한 조건이 추가됩니다. 출제 패턴 설명과 접근 방법:

  • '적어도' 조건: 전체 경우의 수에서 조건을 만족하지 않는 여사건의 경우의 수를 빼는 전략을 주로 사용합니다. (예: 적어도 한 명의 남학생을 포함하는 경우)
  • '이웃한다' 조건: 이웃하는 대상을 하나로 묶어 생각한 후, 묶음 내부에서 순서를 바꾸는 경우를 곱해줍니다. (예: 특정 두 사람이 항상 이웃하여 앉는 경우)
  • '이웃하지 않는다' 조건: 이웃하지 않아야 하는 대상을 먼저 배치하지 않고, 나머지 대상을 먼저 배치한 후, 그 사이사이 공간에 이웃하지 않아야 하는 대상을 배치합니다. (예: 남학생과 여학생이 번갈아 앉는 경우)
  • '특정 순서가 정해진' 조건: 나열해야 할 대상 중 특정 원소들의 순서가 이미 정해져 있다면, 그 원소들을 모두 같은 것으로 보고 일렬로 나열한 후, 나중에 원래의 원소들을 대입하는 '같은 것이 있는 순열'의 아이디어를 사용합니다. (예: A, B, C가 이 순서대로 나열되어야 하는 경우)
  • 함께 출제되는 경우: 이 조건들이 복합적으로 출제될 때, 조건들을 하나씩 분석하고 단계별로 경우의 수를 계산하는 연습이 필요합니다.

유형 2: 중복조합을 활용한 문제 (함수의 개수, 방정식의 해 개수, 배분 문제)

중복조합은 수능에서 4점 문항으로 자주 출제되며, 특히 함수의 개수, 방정식의 해 개수, 물건을 나누어주는 배분 문제와 결합되어 나옵니다. 출제 패턴 설명과 접근 방법:

  • 함수의 개수:
    • 단순 함수의 개수: XX에서 YY로의 함수 개수는 n(Y)n(X)n(Y)^{n(X)} (중복순열)
    • 일대일 함수의 개수: P(n(Y),n(X))P(n(Y), n(X)) (순열)
    • 증가/감소 함수의 개수: C(n(Y),n(X))C(n(Y), n(X)) (조합, 순서가 이미 정해져 있으므로 뽑기만 하면 됨)
    • x1<x2  ⟹  f(x1)≤f(x2)x_1 < x_2 \implies f(x_1) \le f(x_2) 형태의 함수 (비감소 함수): H(n(Y),n(X))H(n(Y), n(X)) (중복조합, 중복을 허락하여 순서 없이 뽑되, 뽑힌 값들은 자동으로 순서가 정해짐)
  • 방정식 x1+x2+⋯+xk=nx_1 + x_2 + \dots + x_k = n의 해 개수:
    • 음이 아닌 정수해 개수: H(k,n)=(k+n−1n)H(k, n) = \binom{k+n-1}{n} (가장 기본적인 중복조합 문제 형태)
    • 양의 정수해 개수: 각 변수를 xi′+1x_i' + 1로 치환하여 음이 아닌 정수해 문제로 변환. (예: xi≥1  ⟹  xi′=xi−1≥0x_i \ge 1 \implies x_i' = x_i - 1 \ge 0)
    • 특정 범위의 정수해 개수: 여사건을 이용하거나, 특정 조건을 만족하는 경우를 직접 세어봅니다.
  • 배분 문제: 서로 다른 nn개의 물건을 서로 다른 rr개의 상자에 넣거나, 같은 종류의 물건을 서로 다른 사람에게 나누어주는 등의 상황에서 중복조합이 활용됩니다. 핵심은 '무엇을 선택하는 것으로 볼 것인가?'를 파악하는 것입니다.

유형 3: 이항정리를 이용한 계수 및 합 계산

이항정리는 다항식의 계수를 찾는 문제, 이항계수의 성질을 활용하는 문제, 파스칼 삼각형과 연관된 문제 등으로 출제됩니다. 출제 패턴 설명과 접근 방법:

  • 특정 항의 계수 찾기: 이항정리의 일반항 (a+b)n=(nr)an−rbr(a+b)^n = \binom{n}{r} a^{n-r} b^r을 이용하여 원하는 항이 나오도록 rr값을 찾고 계수를 계산합니다. 상수항을 찾거나, 특정 문자의 지수가 몇일 때의 계수를 찾는 문제 등이 출제됩니다.
  • 계수의 합: x=1x=1을 대입하여 모든 계수의 합을 구하는 성질 ∑r=0n(nr)=2n\sum_{r=0}^{n} \binom{n}{r} = 2^n을 활용합니다.
  • 홀수/짝수 번째 계수의 합: x=1x=1과 x=−1x=-1을 대입한 결과를 연립하여 홀수 번째 계수들의 합과 짝수 번째 계수들의 합을 구합니다. (n0)+(n2)+⋯=(n1)+(n3)+⋯=2n−1\binom{n}{0} + \binom{n}{2} + \dots = \binom{n}{1} + \binom{n}{3} + \dots = 2^{n-1}.
  • 파스칼의 삼각형과 조합의 성질: (n−1r−1)+(n−1r)=(nr)\binom{n-1}{r-1} + \binom{n-1}{r} = \binom{n}{r} 외에 ∑k=rn(kr)=(n+1r+1)\sum_{k=r}^{n} \binom{k}{r} = \binom{n+1}{r+1} (하키스틱 패턴) 등 다양한 조합의 성질이 이항계수와 연결되어 출제될 수 있습니다.

연습문제

연습 1 (기본)

서로 다른 7개의 숫자 1, 2, 3, 4, 5, 6, 7 중에서 서로 다른 3개의 숫자를 택하여 세 자리 자연수를 만들 때, 홀수가 되는 경우의 수는?

(1) 90 (2) 100 (3) 105 (4) 120 (5) 150

정답 및 풀이 보기

정답: (4)

풀이: 세 자리 자연수가 홀수가 되려면 일의 자리 숫자가 홀수여야 합니다. 주어진 숫자 중 홀수는 1, 3, 5, 7로 4개입니다.

  1. 일의 자리 선택: 4가지 (1, 3, 5, 7 중 하나)
  2. 백의 자리 선택: 일의 자리 숫자를 제외한 나머지 6개 숫자 중 1개를 선택합니다. 6가지.
  3. 십의 자리 선택: 일의 자리와 백의 자리 숫자를 제외한 나머지 5개 숫자 중 1개를 선택합니다. 5가지.

따라서, 4×6×5=1204 \times 6 \times 5 = 120가지입니다.

연습 2 (심화)

어떤 고등학교의 학급회의에서 남학생 4명과 여학생 3명 중에서 학급 대표 3명을 선출하려고 한다. 이때 남학생을 2명 이상 포함하도록 대표를 선출하는 경우의 수는?

정답 및 풀이 보기

정답: 22

풀이: 남학생 4명과 여학생 3명 중에서 학급 대표 3명을 선출하는데, 남학생을 2명 이상 포함하도록 선출해야 합니다. 대표 3명 중 남학생의 수를 기준으로 경우를 나눕니다.

  1. 남학생 2명, 여학생 1명인 경우:

    • 남학생 4명 중 2명 선택: (42)=4×32×1=6\binom{4}{2} = \frac{4 \times 3}{2 \times 1} = 6가지
    • 여학생 3명 중 1명 선택: (31)=3\binom{3}{1} = 3가지
    • 이 경우의 수는 6×3=186 \times 3 = 18가지

  2. 남학생 3명, 여학생 0명인 경우:

    • 남학생 4명 중 3명 선택: (43)=(41)=4\binom{4}{3} = \binom{4}{1} = 4가지
    • 여학생 3명 중 0명 선택: (30)=1\binom{3}{0} = 1가지
    • 이 경우의 수는 4×1=44 \times 1 = 4가지

따라서 조건을 만족하는 총 경우의 수는 18+4=2218 + 4 = 22가지입니다.

연습 3 (도전)

다항식 (x+1)n(x+1)^n의 전개식에서 x1x^1의 계수가 6일 때, 다항식 (x2−1)n(x^2-1)^n의 전개식에서 상수항을 구하시오.

정답 및 풀이 보기

정답: 1

풀이: 먼저, (x+1)n(x+1)^n의 전개식에서 x1x^1의 계수를 통해 nn의 값을 구합니다. 이항정리의 일반항을 이용하면 (x+1)n=∑r=0n(nr)xn−r1r=∑r=0n(nr)xn−r(x+1)^n = \sum_{r=0}^{n} \binom{n}{r} x^{n-r} 1^r = \sum_{r=0}^{n} \binom{n}{r} x^{n-r} 입니다. x1x^1의 계수를 구하려면 n−r=1n-r=1, 즉 r=n−1r=n-1일 때의 항을 찾아야 합니다. 이때의 계수는 (nn−1)=(n1)=n\binom{n}{n-1} = \binom{n}{1} = n 입니다. 문제에서 x1x^1의 계수가 6이라고 했으므로, n=6n=6입니다.

이제 n=6n=6을 이용하여 다항식 (x2−1)n=(x2−1)6(x^2-1)^n = (x^2-1)^6의 전개식에서 상수항을 구합니다. (x2−1)6(x^2-1)^6의 일반항은 (6r)(x2)6−r(−1)r\binom{6}{r} (x^2)^{6-r} (-1)^r 입니다. 이 항이 상수항이 되려면 xx의 지수가 0이어야 합니다. (x2)6−r(x^2)^{6-r}에서 xx의 지수는 2(6−r)2(6-r)입니다. 따라서 2(6−r)=02(6-r)=0이 되어야 합니다. 12−2r=0  ⟹  2r=12  ⟹  r=612-2r=0 \implies 2r=12 \implies r=6입니다.

r=6r=6일 때의 항은 (66)(x2)6−6(−1)6=(66)(x2)0(−1)6=1×1×1=1\binom{6}{6} (x^2)^{6-6} (-1)^6 = \binom{6}{6} (x^2)^0 (-1)^6 = 1 \times 1 \times 1 = 1입니다. 따라서 다항식 (x2−1)6(x^2-1)^6의 전개식에서 상수항은 1입니다.

학습 팁

경우의 수는 수능 수학에서 가장 실수하기 쉬운 단원 중 하나입니다. 개념을 정확히 이해하고 문제에서 요구하는 바를 꼼꼼히 파악하는 것이 중요합니다. 특히 조건이 복잡해질수록 실수할 확률이 높아지니, 단계별로 차분하게 분석하는 습관을 들이세요.

  1. 개념 명확화: 문제를 풀기 전, '순서를 고려하는가?', '중복을 허용하는가?' 두 가지 질문을 스스로에게 던져 순열, 조합, 중복순열, 중복조합 중 어떤 개념을 적용해야 할지 명확히 판단하세요.
  2. 케이스 분류 연습: 복잡한 조건의 문제는 여러 개의 '케이스'로 나누어 생각하는 연습이 필수적입니다. 이때 각 케이스들이 '중복'되지 않고 '누락'되지 않도록 신중하게 분류하는 것이 중요합니다.
  3. 여사건 활용: '적어도 ~', '~가 아니다'와 같은 조건이 붙은 문제에서는 전체 경우의 수에서 반대되는 경우(여사건)를 빼는 것이 더 쉬울 때가 많습니다. 어떤 방법을 택할지 유연하게 판단하세요.
  4. 이항계수 성질 암기 및 증명 이해: 이항정리 관련 문제는 이항계수의 다양한 성질을 정확히 알고 있어야 풀 수 있습니다. 단순히 암기하는 것을 넘어, 성질이 왜 그렇게 되는지 (예: x=1,x=−1x=1, x=-1 대입 등) 과정을 이해하면 응용 문제에도 강해질 수 있습니다.
  5. 다양한 문제 풀이: 교과서 기본 문제부터 수능 기출, 교육청 모의고사 문제까지 다양한 난이도와 유형의 문제를 풀어보면서 실전 감각을 익히고, 오답 노트를 통해 자신의 약점을 보완하세요.
✏️ 문제 풀어보러 가기 (3문제)
#확률과통계#경우의수#순열#조합#이항정리#수능수학#고3수학#확률과 통계#경우의 수
← 전체 개념 목록으로