극값

함수의 극값은 그 점 주변의 국소적인 최댓값 또는 최솟값을 의미한다. 구체적으로, 함수가 어떤 점의 근방에서 다른 모든 점의 함숫값보다 크거나 같으면 그 점에서 극대를, 작거나 같으면 극소를 갖는다고 말한다. 이때의 함숫값을 각각 극댓값, 극솟값이라고 하며, 통틀어 극값이라 부른다. 극대와 극소는 함수의 전체적인 최대·최소와는 구분되는 개념으로, 함수의 그래프가 국소적으로 위로 튀어나오거나 아래로 움푹 파인 지점에 해당한다.

극값이 발생하는 후보 지점은 임계점이다. 임계점은 함수의 도함수 값이 0이 되는 점 또는 도함수가 존재하지 않는 점을 말한다. 그러나 모든 임계점이 극점인 것은 아니다. 예를 들어, 변곡점에서는 도함수가 0일 수 있지만 함수의 증감이 바뀌지 않아 극값이 발생하지 않는다. 또한, 다변수 함수에서는 안장점이라는 특수한 임계점이 존재하는데, 이 점에서는 어떤 방향으로는 극대처럼, 다른 방향으로는 극소처럼 보이지만 실제로는 극값이 아니다.

함수의 극값과 임계점 사이에는 밀접한 관계가 있다. 임계점은 함수의 도함수가 0이 되거나 도함수가 존재하지 않는 점을 말한다. 페르마의 정리에 따르면, 함수가 어떤 점에서 미분 가능하고 그 점에서 극값을 가지면, 그 점은 반드시 임계점이다. 즉, 극점(극대점 또는 극소점)은 임계점의 부분집합이다.

그러나 모든 임계점이 극점인 것은 아니다. 예를 들어, 변곡점은 도함수가 0이지만 그 점을 지나며 함수의 증가와 감소 상태가 바뀌지 않아 극값을 가지지 않는 경우가 있다. 또한, 다변수 함수에서 안장점은 편미분이 모두 0이지만 극값을 갖지 않는 임계점의 대표적인 예이다. 따라서 임계점은 극값을 가질 가능성이 있는 후보 지점일 뿐, 실제 극값 여부는 추가적인 판별법을 통해 확인해야 한다.

함수가 미분 불가능한 점에서도 극값을 가질 수 있다는 점에 주의해야 한다. 예를 들어, 절댓값 함수 f(x)=|x|는 x=0에서 미분 불가능하지만, 이 점은 명백한 극소점이다. 이처럼 임계점의 정의에는 '도함수가 존재하지 않는 점'도 포함되므로, 극값 탐색 시에는 미분 불가능한 점도 함께 고려해야 한다. 결국, 함수의 모든 극점은 임계점에 속하지만, 그 역은 성립하지 않는다.

1계 도함수 판정법은 함수의 도함수 부호 변화를 관찰하여 극값을 판별하는 방법이다. 이 방법은 함수가 미분 가능한 구간 내에서 임계점을 찾은 후, 그 점을 기준으로 도함수의 부호가 어떻게 바뀌는지 확인하는 원리를 기반으로 한다.

구체적으로, 함수 f(x)가 x=a에서 연속이고, a를 제외한 a의 근방에서 미분 가능할 때, x가 a를 지나며 증가할 경우 도함수 f'(x)의 부호가 양에서 음으로 바뀌면 f(a)는 극댓값이다. 반대로, 부호가 음에서 양으로 바뀌면 f(a)는 극솟값이다. 만약 도함수의 부호가 a를 지나도 변하지 않으면, 그 점은 변곡점이나 안장점이 될 수 있으며 극값은 아니다.

이 판정법은 페르마의 정리와 밀접한 관련이 있다. 페르마의 정리는 함수가 극값을 갖고 해당 점에서 미분 가능하면 그 점에서의 도함수 값이 0이어야 함을 보장한다. 그러나 도함수가 0이 되는 점이 모두 극점인 것은 아니므로, 1계 도함수 판정법은 이 조건을 만족하는 임계점 후보들 중에서 실제로 극값을 갖는 점을 골라내는 역할을 한다. 이 방법은 그래프의 개형을 쉽게 추정할 수 있어 미적분학과 다양한 최적화 문제에서 널리 활용된다.

2계 도함수 판정법은 함수의 임계점에서 극값의 존재 여부와 그 종류를 판별하는 방법이다. 이 방법은 함수가 두 번 미분 가능할 때, 즉 2계 도함수가 존재할 때 사용할 수 있다. 기본 원리는 임계점에서의 1계 도함수 값이 0일 때, 그 점에서의 2계 도함수의 부호를 조사하는 것이다.

구체적으로, 함수 f(x)가 x=c에서 미분 가능하고 f'(c)=0이라고 하자. 이때 f''(c)의 값에 따라 다음과 같이 판정한다. f''(c) > 0이면 함수 f(x)는 x=c에서 극솟값을 갖는다. f''(c) < 0이면 함수 f(x)는 x=c에서 극댓값을 갖는다. 만약 f''(c) = 0이라면 이 판정법으로는 결론을 내릴 수 없다. 이 경우 해당 점은 극값이 아닐 수도 있고, 변곡점일 수도 있으며, 다른 판정법을 추가로 사용해야 한다.

이 판정법은 1계 도함수 판정법에 비해 계산이 간편하다는 장점이 있다. 임계점에서의 2계 도함수 값 하나만 계산하면 되기 때문이다. 그러나 이 방법은 2계 도함수가 존재하지 않거나 0인 경우에는 적용할 수 없다는 한계가 있다. 또한 다변수 함수의 극값을 판정할 때는 헤세 행렬과 같은 다른 개념을 사용해야 한다.

다변수 함수의 극값을 찾기 위해서는 먼저 임계점을 찾아야 한다. 두 개 이상의 변수를 가진 함수의 경우, 각 변수에 대한 편미분을 모두 계산하여 그 값이 동시에 0이 되는 점이 임계점의 후보가 된다. 즉, 함수 $f(x, y)$가 $(a, b)$에서 극값을 가질 가능성이 있다면, $f_x(a, b) = 0$이고 $f_y(a, b) = 0$이어야 한다. 이 조건은 일변수 함수에서의 페르마의 정리를 다변수로 확장한 개념에 해당한다.

그러나 모든 임계점이 극점인 것은 아니다. 임계점은 극대점, 극소점, 또는 안장점일 수 있다. 안장점은 한 방향에서는 극대처럼 보이지만 다른 방향에서는 극소처럼 보이는 점으로, 극값을 가지지 않는다. 이를 판별하기 위해서는 헤세 행렬을 이용한 2계 도함수 판정법이 주로 사용된다. 헤세 행렬의 고윳값이나 행렬식의 부호를 분석하여 임계점의 성질을 결정한다.

다변수 함수의 극값 문제는 최적화 이론, 기계학습의 손실 함수 최소화, 경제학에서의 효용 극대화 등 다양한 분야에서 응용된다. 예를 들어, 공학 설계에서 여러 변수 하에서 성능을 최적화하거나, 데이터 과학에서 모델의 매개변수를 조정할 때 이 개념이 핵심적으로 사용된다.

다변수 함수의 극값을 판정하는 핵심 도구는 헤세 행렬이다. 두 개 이상의 변수를 가진 함수의 극값을 찾기 위해서는 먼저 모든 편미분이 동시에 0이 되는 임계점을 찾는다. 이후 그 점에서의 헤세 행렬, 즉 2계 편도함수로 구성된 행렬의 성질을 분석하여 극값 여부를 판단한다.

헤세 행렬이 양의 정부호 행렬이면 해당 임계점은 극솟값을, 음의 정부호 행렬이면 극댓값을 제공한다. 헤세 행렬의 고윳값을 계산하거나, 주축정리를 이용한 정부호성 판별이 이에 해당한다. 만약 헤세 행렬이 부정부호이면, 그 점은 극값이 아닌 안장점이 된다. 헤세 행렬의 행렬식이 0이어서 준정부호인 경우에는 이 판정법으로 결론을 내릴 수 없으며, 더 세밀한 분석이 필요하다.

이 판정법은 2계 도함수 판정법을 다변수 함수로 일반화한 것이다. 1변수 함수에서 2계 도함수의 부호로 극값을 판단했듯이, 다변수 함수에서는 헤세 행렬의 정부호성이라는 개념이 그 역할을 대신한다. 이 방법은 경제학의 최적화 문제나 물리학의 역학 시스템에서 안정점을 찾는 등 다양한 분야에서 활용된다.

극값과 최대·최소는 모두 함수의 값이 크거나 작은 상태를 나타내지만, 그 의미와 범위에서 중요한 차이가 있다. 극값은 국소적(local) 개념으로, 어떤 점의 매우 가까운 주변(근방)에서만 비교했을 때 가장 크거나 작은 값을 가리킨다. 반면 최댓값과 최솟값은 전역적(global) 개념으로, 함수가 정의된 전체 구간에서 가장 크거나 작은 값을 의미한다.

따라서 한 함수가 가질 수 있는 극댓값과 극솟값은 여러 개일 수 있지만, 최댓값과 최솟값은 각각 하나씩만 존재할 수 있다. 또한, 최댓값은 극댓값들 중 가장 큰 값이며, 최솟값은 극솟값들 중 가장 작은 값이 된다. 함수의 양 끝점이나 불연속점에서 최대·최소가 발생할 수 있지만, 그 점들은 극점이 아닐 수 있다는 점도 차이점이다.

예를 들어, 닫힌 구간에서 정의된 연속 함수의 최대·최소를 찾을 때는 모든 극값과 함께 구간의 양 끝점에서의 함숫값을 모두 비교해야 한다. 이는 최대·최소가 극점이 아닌 경계점에서 발생할 수도 있기 때문이다. 결국 극값은 함수의 국소적인 거동을, 최대·최소는 함수의 전체적인 범위를 파악하는 데 사용되는 서로 다른 개념이다.

함수의 극값은 그 점의 근방에서만 비교하여 정의되므로, 반드시 미분 가능한 점에서만 발생하는 것은 아니다. 함수가 어떤 점에서 미분 불가능하더라도, 그 점을 포함하는 충분히 작은 열린 구간에서 함숫값이 가장 크거나 가장 작다면 그 점은 극점이 된다.

대표적인 예로 절댓값 함수 f(x) = |x|가 있다. 이 함수는 x = 0에서 미분 불가능한 첨점을 갖지만, 0을 포함하는 어떤 작은 구간에서도 f(0) = 0보다 작은 함숫값을 가지지 않는다. 따라서 x = 0은 이 함수의 극소점이며, 0은 극솟값이다. 마찬가지로, 계단 함수나 최대 정수 함수와 같이 불연속인 점에서도 극값이 발생할 수 있다. 예를 들어, f(x) = ⌊x⌋ (바닥함수)는 모든 정수점에서 불연속이지만, 각 정수점의 근방을 살펴보면 그 점에서 함숫값이 국소적으로 최소가 되므로 극소점이 된다.

이러한 점들은 페르마의 정리가 적용되지 않는 경우에 해당한다. 페르마의 정리는 함수가 어떤 점에서 미분 가능하고 극값을 가질 때, 그 점에서의 도함수 값이 0임을 말해준다. 그러나 미분 불가능한 점에서는 도함수가 정의되지 않으므로, 극값을 찾기 위해서는 도함수를 이용한 임계점 탐색 외에도 그래프의 개형이나 정의를 직접 활용해 확인해야 한다. 따라서 함수의 극값을 논할 때는 미분 가능성에 관계없이 극값의 본질적인 정의인 '근방에서의 최대/최소'에 주목하는 것이 중요하다.