들어가며

계산기에 1 ÷ 0을 넣으면 오류가 뜹니다. 0으로 나누는 것은 수학에서 금지된 동작이니까요. 그래서 극한을 배우다 분자도 0, 분모도 0이 되는 상황을 만나면, 많은 사람이 반사적으로 "아, 이건 답이 없구나"라고 넘겨 버립니다.

그런데 \(0 \div 0\)은 조금 다릅니다. 이것은 "답이 없다"가 아니라 **"이것만 보고는 아직 알 수 없다"**는 뜻입니다. 수학에서는 이런 꼴을 부정형(不定形, 정해지지 않은 꼴)이라고 부릅니다. 정해지지 않았다는 말은 곧, 정보를 더 캐내면 정해질 수 있다는 뜻이기도 합니다.

이 글의 한 문장은 이것입니다. 분자와 분모가 둘 다 0으로 다가가더라도, "얼마나 빠르게" 다가가느냐를 따지면 그 비율은 하나의 값으로 정해진다. 그 "얼마나 빠르게"를 드러내는 손질이 바로 약분입니다. 다항식이면 인수를 나눠서, 루트가 끼어 있으면 켤레를 곱해서 약분합니다. 그 과정을 하나씩 따라가 봅시다.

1. 왜 0 나누기 0은 '아직 모름'인가

먼저 왜 \(0 \div 0\)이 하나로 안 정해지는지부터 짚겠습니다. 나눗셈 \(a \div b\)는 "\(b\)를 몇 번 곱해야 \(a\)가 되는가"를 묻는 것입니다.

  • \(6 \div 2\)는 "2를 몇 배 하면 6인가" → 답은 딱 하나, 3.
  • \(1 \div 0\)은 "0을 몇 배 하면 1인가" → 0은 아무리 곱해도 0이라 답이 아예 없음. 그래서 오류.
  • \(0 \div 0\)은 "0을 몇 배 하면 0인가" → 0을 몇 배 하든 0이니 답이 아무거나 다 됨. 그래서 하나로 못 정함.

세 번째가 핵심입니다. \(0 \div 0\)은 답이 없어서 막힌 게 아니라, 후보가 너무 많아서 하나로 못 고르는 상황입니다. 그러니 "답이 없다"가 아니라 "아직 모른다"가 정확한 표현입니다.

극한에서 이 꼴이 나오는 이유는 이렇습니다. 어떤 자리 \(x = a\)에서 분자와 분모가 동시에 0이 된다면, 그것은 대개 분자와 분모가 같은 인수(공통으로 0을 만드는 부품)를 품고 있다는 신호입니다. 그 공통 인수가 바로 \(0 \div 0\)을 만드는 범인이고, 우리가 약분으로 걷어낼 대상입니다.

  • 직관: \(0 \div 0\)은 "두 사람이 똑같이 결승선에 0으로 도착했는데, 누가 더 빨리 줄었느냐"를 묻는 경주다. 도착 사실만으로는 승부를 못 가리고, 다가가는 속도를 봐야 한다.
  • 설명: 분자와 분모가 함께 0이 되는 자리에는 공통 인수가 숨어 있다.
  • 식: 그 공통 인수를 약분해 없애면, 남은 식에 값을 넣어 극한을 읽을 수 있다.

2. 다항식: 공통 인수를 약분한다

가장 깔끔한 경우부터 봅시다. 다음 극한을 생각합니다.

$$\lim_{x \to 3} \frac{x^2 - 9}{x - 3}$$

\(x = 3\)을 그냥 넣으면 분자는 \(9 - 9 = 0\), 분모는 \(3 - 3 = 0\)이 되어 \(\tfrac{0}{0}\), 곧 "아직 모름" 꼴입니다. 여기서 포기하면 안 됩니다. 분자와 분모가 함께 0이 되었다는 것은 둘 다 \((x - 3)\)이라는 공통 부품을 가졌다는 신호이기 때문입니다. 실제로 분자를 인수분해하면 그 부품이 눈에 보입니다.

$$x^2 - 9 = (x + 3)(x - 3)$$

이제 분자와 분모에서 공통 인수 \((x - 3)\)을 약분합니다. 단, 이 약분은 \(x \ne 3\)일 때만 유효합니다. 극한은 \(x = 3\) 자체가 아니라 그 근처만 보므로, 이 조건은 극한 계산에 전혀 방해가 되지 않습니다.

$$\frac{x^2 - 9}{x - 3} = \frac{(x + 3)(x - 3)}{x - 3} = x + 3 \quad (x \ne 3)$$

약분하고 남은 식은 그냥 \(x + 3\)입니다. 여기에 \(x = 3\)을 넣으면 방해물 없이 값이 나옵니다.

$$\lim_{x \to 3} \frac{x^2 - 9}{x - 3} = \lim_{x \to 3} (x + 3) = 6$$

그래프로 보면, 원래 식 \(\tfrac{x^2-9}{x-3}\)은 \(x = 3\) 한 점만 빼면 직선 \(y = x + 3\)과 완전히 똑같습니다. 그 한 점에는 값이 없으니 \((3, 6)\) 자리가 콕 뚫려 구멍이 납니다. 다가가는 값(극한값)은 \(6\)으로 멀쩡히 존재하는데, 도착한 값(함수값)만 비어 있는 것이지요. 값을 그냥 넣었을 때 나온 \(\tfrac{0}{0}\)은, 바로 이 구멍을 우리가 정면으로 밟았다는 신호였습니다. 함수값과 극한값이 왜 이렇게 갈릴 수 있는지는 바로 앞 글에서 자세히 다뤘습니다.

3. 루트가 낀 식: 켤레를 곱해 약분한다

다항식은 인수분해로 공통 인수가 바로 보였습니다. 그런데 분자에 루트(제곱근)가 끼어 있으면 인수가 눈에 안 보여 약분할 거리를 찾기 어렵습니다. 다음 극한이 그렇습니다.

$$\lim_{x \to 3} \frac{\sqrt{x + 1} - 2}{x - 3}$$

\(x = 3\)을 넣으면 분자는 \(\sqrt{4} - 2 = 0\), 분모는 \(0\)이 되어 또 \(\tfrac{0}{0}\)입니다. 하지만 분자 \(\sqrt{x+1} - 2\)를 인수분해할 방법이 마땅치 않습니다. 여기서 쓰는 도구가 켤레(짝꿍)입니다. 루트가 낀 식 \(\sqrt{x+1} - 2\)의 켤레는, 가운데 부호만 바꾼 \(\sqrt{x+1} + 2\)입니다.

왜 하필 이걸 곱할까요. \((A - B)(A + B) = A^2 - B^2\)이라는 곱셈 공식 덕분에, 켤레를 곱하면 루트가 제곱되어 깨끗이 사라지기 때문입니다. 분자·분모에 똑같이 곱해야 식의 값이 안 변하니, 위아래에 함께 곱합니다.

$$\frac{\sqrt{x+1} - 2}{x - 3} \cdot \frac{\sqrt{x+1} + 2}{\sqrt{x+1} + 2}$$

분자를 먼저 정리하면 루트가 제곱되어 없어집니다.

$$(\sqrt{x+1} - 2)(\sqrt{x+1} + 2) = (x + 1) - 4 = x - 3$$

놀랍게도 분자가 \(x - 3\)으로 바뀌었습니다. 이제 분모의 \(x - 3\)과 약분할 공통 인수가 드러난 것입니다. 전체를 쓰면 이렇게 됩니다.

$$\frac{x - 3}{(x - 3)(\sqrt{x+1} + 2)} = \frac{1}{\sqrt{x+1} + 2} \quad (x \ne 3)$$

약분하고 남은 식 \(\tfrac{1}{\sqrt{x+1}\,+\,2}\)에 \(x = 3\)을 넣으면, 이번에도 방해물 없이 값이 나옵니다.

$$\lim_{x \to 3} \frac{\sqrt{x+1} - 2}{x - 3} = \frac{1}{\sqrt{4} + 2} = \frac{1}{4}$$

곱셈 공식 \((A-B)(A+B)=A^2-B^2\)이 왜 성립하는지, 그리고 루트가 왜 곱·나눗셈에서만 분리되는지는 루트 분리 법칙 글에서 다뤘습니다. 켤레 곱하기는 그 공식을 "루트를 없애는 방향"으로 거꾸로 활용하는 기술인 셈입니다.

4. 아래 인터랙티브로 직접 확인하기

두 예제 모두 겉으로는 \(\tfrac{0}{0}\)이라는 같은 벽에 부딪혔지만, 약분이라는 손질로 벽을 걷어내자 각각 \(6\)과 \(\tfrac{1}{4}\)이라는 서로 다른 값이 드러났습니다. 이것이 바로 "\(0 \div 0\)은 하나로 안 정해진다"는 말의 실제 모습입니다. 같은 \(\tfrac{0}{0}\)인데도 답이 다르니까요.

아래에서 모드를 바꿔 가며 슬라이더로 \(x\)를 \(3\)에 다가가게 해 보세요. 분자와 분모가 나란히 \(0\)으로 줄어드는데도, 그 비율은 목표값(초록 구멍 자리)으로 또박또박 모이는 것을 볼 수 있습니다.

0/0을 약분으로 걷어내기
다항식 모드에서는 (x²−9)/(x−3)의 분자·분모가 x=3에서 함께 0으로 가지만, 약분한 식 x+3의 값은 6으로 모입니다. 켤레 모드에서는 루트가 낀 (√(x+1)−2)/(x−3)에 켤레를 곱해 루트를 없애면 값이 4분의 1로 모입니다. 두 경우 모두 그래프에는 구멍 하나만 남습니다.

패널에서 분자와 분모는 각각 빨간색으로 \(0\)을 향해 줄어들지만, "분자 ÷ 분모" 칸의 값은 흔들리지 않고 목표에 붙습니다. 둘 다 0으로 가는 속도의 비율이 곧 극한값이라는 것을, 숫자가 직접 보여 줍니다.

5. 왜 이 손질이 정당한가 — 극한은 '그 점'을 안 본다

여기서 한 가지 의심이 들 수 있습니다. "\(x \ne 3\)일 때만 약분이 유효하다면서, 정작 \(x = 3\)에서의 극한을 구하는 데 그 약분을 써도 되나?"

됩니다. 그리고 그 이유가 이 글 전체의 핵심입니다. 극한은 \(x = 3\)이라는 점 자체를 일부러 쳐다보지 않고, 그 양옆 이웃만 봅니다. 우리가 구하는 것은 "\(x = 3\)에서의 값"이 아니라 "\(x\)를 \(3\)에 다가가게 할 때 향하는 값"입니다. 그 다가가는 길에는 \(x = 3\)이 포함되지 않으므로, 오직 그 한 점에서만 유효하지 않은 약분이라도 극한 계산에는 아무 지장이 없습니다.

정리하면 순서는 늘 이렇습니다.

  • 1단계 — 진단: 값을 넣어 \(\tfrac{0}{0}\)이 나오면, "답 없음"이 아니라 "약분할 공통 인수가 숨어 있다"는 신호로 읽는다.
  • 2단계 — 손질: 다항식이면 인수분해로, 루트가 끼면 켤레를 곱해, 그 공통 인수를 드러내 약분한다.
  • 3단계 — 대입: 약분하고 남은 깨끗한 식에 값을 넣어 극한값을 읽는다.

마치며

\(0 \div 0\)을 만났을 때 가장 중요한 태도는, 그것을 막다른 골목이 아니라 실마리로 읽는 것입니다. 분자와 분모가 함께 0이 되었다는 사실 자체가, "여기 약분할 공통 인수가 숨어 있다"고 알려 주는 지도이기 때문입니다. 약분은 그 숨은 부품을 걷어내어, 값을 그냥 넣기만 해서는 절대 보이지 않던 극한값을 드러내는 손질입니다.

이 "속도의 비율로 승부가 갈린다"는 관점은 여기서 끝나지 않습니다. 뒤에 배울 미분의 정의 자체가 바로 이 \(\tfrac{0}{0}\) 꼴을 약분으로 풀어내는 이야기이고, 더 나아가 분자·분모를 각각 미분해 버리는 로피탈 정리도 결국 "둘이 0으로 가는 속도를 직접 비교하자"는 같은 직관의 연장입니다. 오늘 걷어낸 이 벽 하나가, 앞으로 만날 미적분의 문을 여는 열쇠인 셈입니다.

함께 보면 좋은 글