분자 오비탈 이론(MOT)

분자 오비탈 이론의 핵심은 개별 원자의 원자 오비탈이 결합하여 분자 전체에 걸쳐 전자가 분포하는 새로운 분자 오비탈을 형성한다는 개념이다. 이 과정에서 원자 오비탈들은 선형 결합이라는 수학적 방법을 통해 결합한다. 선형 결합은 두 개 이상의 원자 오비탈 파동 함수를 더하거나 빼는 방식으로 새로운 파동 함수, 즉 분자 오비탈을 생성하는 것을 의미한다.

구체적으로, 두 개의 원자 오비탈(예: 수소 원자의 1s 오비탈)이 서로 접근하면, 그 파동 함수들은 중첩된다. 이 중첩된 파동 함수들을 더하면 결합성 오비탈이, 빼면 반결합성 오비탈이 만들어진다. 결합성 오비탈은 원자핵 사이의 영역에서 전자 밀도가 증가하여 안정화를 가져오는 반면, 반결합성 오비탈은 원자핵 사이의 영역에 결절면이 존재하여 전자 밀도가 감소하고 불안정화를 초래한다. 생성된 분자 오비탈의 수는 결합에 참여한 원자 오비탈의 총수와 항상 같다.

선형 결합의 결과 형성된 분자 오비탈의 에너지는 원래 원자 오비탈들의 에너지와 다르다. 일반적으로 결합성 오비탈의 에너지는 원자 오비탈보다 낮아지고, 반결합성 오비탈의 에너지는 더 높아진다. 이 에너지 차이는 결합의 강도를 결정하는 주요 요인이다. 선형 결합은 시그마 결합을 형성하는 s 오비탈 간의 결합뿐만 아니라, 파이 결합을 형성하는 p 오비탈 간의 결합에도 동일한 원리로 적용된다.

두 개의 원자 오비탈이 결합하여 분자 오비탈을 형성할 때, 그 결과는 항상 한 쌍의 오비탈이 된다. 하나는 원래의 원자 오비탈들보다 에너지가 낮은 결합성 오비탈이고, 다른 하나는 에너지가 더 높은 반결합성 오비탈이다.

결합성 오비탈은 두 원자핵 사이의 영역에서 파동 함수의 부호가 같아 보강 간섭을 일으키는 형태를 띤다. 이로 인해 전자 밀도가 두 핵 사이에 집중되어, 핵들을 서로 끌어당기는 정전기적 인력을 생성한다. 결합성 오비탈에 전자가 채워지면 분자의 안정성이 증가하며, 이는 결합 에너지에 기여한다. 반면, 반결합성 오비탈은 두 원자핵 사이의 영역에서 파동 함수의 부호가 달라 상쇄 간섭을 일으킨다. 이는 핵 사이에 결절면이 존재하게 하여 전자 밀도가 매우 낮아진다. 그 결과, 핵 사이의 인력보다는 핵과 전자 구름 사이의 반발력이 우세해져 분자를 불안정하게 만든다. 반결합성 오비탈에 전자가 채워지면 결합을 약화시키거나 심지어 파괴할 수 있다.

분자의 결합 강도와 안정성은 결합성 오비탈과 반결합성 오비탈에 채워진 전자 수의 차이, 즉 결합 차수에 의해 결정된다. 결합 차수가 클수록 분자는 더 강하고 안정하다. 예를 들어, 헬륨 분자 이온(He₂⁺)의 경우, 두 개의 원자 오비탈이 결합하여 하나의 결합성 σ 오비탈과 하나의 반결합성 σ* 오비탈을 만들고, 여기에 전자 하나가 결합성 오비탈에 채워진다. 이는 결합 차수가 0.5임을 의미하며, 실제로 He₂⁺는 약한 결합을 형성한다. 반면, 중성 헬륨 분자(He₂)는 결합성 오비탈과 반결합성 오비탈에 각각 두 개의 전자가 채워져 순 결합 차수가 0이 되어 안정한 분자를 형성하지 못한다.

분자 오비탈 이론에서 오비탈 에너지 준위도는 원자 오비탈이 결합하여 형성된 분자 오비탈들의 상대적인 에너지 높낮이를 도식적으로 나타낸 그림이다. 이 도표는 분자 내 전자의 배치를 이해하고 분자의 안정성, 결합 차수, 자기적 성질 등을 예측하는 데 핵심적인 도구로 사용된다.

준위도는 일반적으로 좌우에 개별 원자의 원자 오비탈 에너지 준위를, 중앙에 이들이 결합하여 생성된 분자 오비탈들의 에너지 준위를 수평선으로 그려 넣는다. 에너지가 낮은 준위는 아래쪽, 높은 준위는 위쪽에 위치한다. 원자 오비탈이 결합하면 항상 에너지가 더 낮은 결합성 오비탈과 에너지가 더 높은 반결합성 오비탈이 한 쌍으로 생성된다. 이 두 오비탈의 에너지 차이는 원자 오비탈 간의 중첩 정도에 비례한다. 중첩이 클수록 결합성 오비탈의 에너지는 더 낮아지고, 반결합성 오비탈의 에너지는 더 높아져 에너지 갭이 커진다.

준위도는 전자가 어떤 오비탈에 채워지는지를 보여주는 전자 배치를 결정하는 데 사용된다. 분자 오비탈에는 파울리 배타 원리와 훈트 규칙에 따라 전자가 채워진다. 가장 낮은 에너지 준위부터 시작하여 전자가 하나씩 채워지며, 결합성 오비탈에 전자가 채워지면 분자 결합에 기여하여 안정화시키는 반면, 반결합성 오비탈에 전자가 채워지면 결합을 약화시킨다. 최종적인 결합 차수는 (결합성 오비탈의 전자 수 - 반결합성 오비탈의 전자 수) / 2 공식으로 계산된다.

동핵 이원자 분자(예: N₂, O₂)의 경우, 준위도는 원자 번호가 증가함에 따라 2s와 2p 원자 오비탈 간의 에너지 차이에 따라 그 모양이 달라진다. 가벼운 원자(예: B₂, C₂, N₂)에서는 2s 오비탈과 2p 오비탈의 에너지 차이가 커서 혼합이 적게 일어나는 모델을 사용한다. 반면, 무거운 원자(예: O₂, F₂)로 갈수록 에너지 차이가 줄어들어 2s-2p 오비탈 간의 혼합 효과가 준위도의 배열 순서를 바꾸는 경우가 있다[2]. 이는 분자의 자기적 성질을 정확히 예측하는 데 중요하다.

분자 오비탈 이론에서 시그마 오비탈(σ 오비탈)은 두 원자의 핵을 연결하는 축을 따라 전자 밀도가 집중된 결합을 형성하는 분자 오비탈이다. 이 오비탈은 원자 오비탈의 머리 맞대기(head-on) 중첩을 통해 생성되며, 결합 축을 중심으로 한 회전에 대해 대칭성을 가진다. 즉, 결합 축을 중심으로 360도 회전시켜도 오비탈의 모양과 부호가 변하지 않는다.

시그마 오비탈은 결합성과 반결합성 두 종류로 나뉜다. 결합성 시그마 오비탈(σ)은 두 원자핵 사이에 전자 밀도가 높아 안정화 효과를 주어 화학 결합을 형성한다. 반면, 반결합성 시그마 오비탈(σ*)은 두 핵 사이에 결절면(node)이 존재하여 핵 사이의 전자 밀도가 낮아지고 불안정화 효과를 준다. 일반적으로 σ 오비탈은 상응하는 σ* 오비탈보다 에너지 준위가 낮다.

시그마 결합을 형성할 수 있는 원자 오비탈의 조합은 다양하다. 가장 일반적인 예는 두 개의 s 오비탈, 또는 한 개의 s 오비탈과 한 개의 pz 오비탈(p 오비탈 중 결합 축 방향을 향한 것), 또는 두 개의 pz 오비탈의 머리 맞대기 중첩이다. 이들의 선형 결합으로 σ 및 σ* 분자 오비탈이 만들어진다.

단일 결합은 항상 하나의 σ 결합으로 구성된다. 예를 들어, 수소(H2) 분자의 결합은 두 개의 1s 원자 오비탈이 중첩되어 하나의 σ(1s) 결합성 오비탈을 형성한 결과이다. 이중 결합은 하나의 σ 결합과 하나의 π 결합으로, 삼중 결합은 하나의 σ 결합과 두 개의 π 결합으로 이루어져 있다.

파이 오비탈은 두 개의 원자 오비탈이 측면으로 겹쳐져 형성된 분자 오비탈이다. 이 오비탈은 두 원자의 핵을 연결하는 축에 대해 결합축을 중심으로 180도 회전했을 때 부호가 반전되는 특징을 가진다. 즉, 결합축에 대해 결절면이 하나 존재한다.

파이 오비탈은 주로 p 오비탈이나 d 오비탈의 측면 중첩을 통해 생성된다. 가장 흔한 예는 두 개의 p 오비탈이 서로 평행하게 배열되어 측면으로 겹칠 때 형성되는 π 결합이다. 결합성 파이 오비탈(π)은 겹치는 영역에서 원자 오비탈의 위상(부호)이 같아 전자 밀도가 증가하며, 반결합성 파이 오비탈(π*)은 위상이 달라 겹치는 영역의 전자 밀도가 감소한다.

파이 오비탈은 시그마 오비탈보다 중첩 정도가 작아 일반적으로 결합 에너지가 더 낮다. 따라서 π 결합은 σ 결합에 비해 약하고, 반응성이 더 높은 경향을 보인다. 이 오비탈은 이중 결합과 삼중 결합의 형성에 핵심적인 역할을 한다. 예를 들어, 에틸렌의 탄소-탄소 이중 결합은 하나의 σ 결합과 하나의 π 결합으로 구성된다.

더 높은 주양자수를 가진 오비탈 간 중첩으로는 δ 오비탈이 형성될 수 있다. 파이 오비탈의 개념은 공액 분자나 방향족 화합물에서 비편재화된 전자계를 설명하는 데 확장되어 적용된다. 이러한 시스템에서는 여러 개의 p 오비탈이 연속적으로 측면 중첩되어 분자 전체에 걸쳐 있는 분자 오비탈을 형성한다.

델타 오비탈은 분자 오비탈의 한 종류로, 두 개의 원자 오비탈이 서로 평행한 두 개의 절점 평면(nodal plane)을 포함하는 방식으로 중첩되어 형성된다. 이는 파이 오비탈이 하나의 절점 평면을 갖는 것과 구별된다. 델타 결합은 주로 전이 금속 원자들 사이에서, 특히 금속-금속 4중 결합을 구성할 때 관찰된다.

델타 오비탈의 형성은 주로 서로 평행한 d 오비탈, 예를 들어 dxy 오비탈끼리 측면 중첩(side-on overlap)을 통해 이루어진다. 이때 오비탈의 중첩 영역은 분자축을 중심으로 4개의 엽(lobe) 모양을 나타낸다. 델타 오비탈도 결합성 오비탈과 반결합성 오비탈 쌍으로 존재하며, 에너지 준위는 분자 오비탈 다이어그램에서 파이 오비탈보다 높은 위치에 나타난다.

델타 결합은 일반적으로 시그마 결합과 파이 결합에 비해 매우 약하다. 그 강도는 중첩 정도가 작기 때문이다. 따라서 델타 결합만으로는 분자를 안정화시키기 어렵고, 주로 강한 시그마 결합과 하나 이상의 파이 결합이 존재하는 시스템에서 추가적인 결합 차수를 제공하는 역할을 한다. 대표적인 예는 레늄의 이중염인 팔라듐염 이온([Re2Cl8]2-)이다. 이 이온에서는 두 레늄 원자가 4중 결합(σ2π4δ2)을 형성하는데, 여기서 델타 결합이 기여한다.

델타 오비탈의 존재와 특성은 분자의 자기적 성질과 전자 구조에 영향을 미친다. 델타 결합에 전자가 채워지면 분자의 결합 길이가 단축되고, 결합 에너지가 약간 증가하는 효과를 보인다. 이는 분광학적 방법, 특히 자기 원자력 현미경과 같은 기법을 통해 실험적으로 확인할 수 있다.

분자 오비탈 이론은 이원자 분자의 결합, 안정성, 자기적 성질 및 전자 배치를 체계적으로 설명하는 데 가장 효과적으로 적용된다. 동핵 이원자 분자(예: H₂, O₂, N₂)와 이핵 이원자 분자(예: CO, NO) 모두에 대해 분자 오비탈 도표를 구성할 수 있다. 이 과정은 구성 원자의 원자 오비탈 에너지 준위를 비교하고, 적절한 대칭성을 가진 오비탈들 간의 선형 결합 원자 오비탈(LCAO)을 통해 분자 오비탈을 형성하는 것으로 시작한다.

동핵 이원자 분자의 경우, 두 동일한 원자의 오비탈 에너지 준위는 서로 정확히 일치한다. 예를 들어, 두 개의 수소 원자의 1s 오비탈은 결합하여 낮은 에너지의 결합성 오비탈(σ1s)과 높은 에너지의 반결합성 오비탈(σ*1s)을 생성한다. 두 개의 전자는 파울리 배타 원리에 따라 σ1s 오비탈에 채워져 H₂ 분자를 형성한다. 더 무거운 원자로 이루어진 분자(예: O₂ 또는 N₂)에서는 2s와 2p 원자 오비탈이 모두 고려되어 σ와 π 종류의 여러 분자 오비탈을 생성한다. 전자들은 훈트 규칙에 따라 에너지 준위가 낮은 오비탈부터 채워진다.

이핵 이원자 분자에서는 두 원종의 원자 오비탈 에너지가 서로 다르기 때문에 분자 오비탈 도표가 비대칭적이 된다. 예를 들어, 일산화 탄소(CO)에서 탄소와 산소 원자의 원자 오비탈 에너지는 차이가 있지만, 유사한 에너지와 적절한 대칭성을 가진 오비탈들(예: C의 2pz와 O의 2pz)이 여전히 상호작용하여 분자 오비탈을 형성한다. CO의 분자 오비탈 배치는 전자 수가 N₂ 분자와 동일(10개의 원자가 전자)하고, 유사한 결합 차수(3)를 가지는 등 등전자체 관계를 보여주는 경우로 자주 분석된다.

분자 오비탈 이론은 이원자 분자의 결합 차수, 자기적 성질, 이온화 에너지 등을 성공적으로 예측한다. 가장 유명한 예는 산소 분자(O₂)의 상자성 예측이다. 원자가 결합 이론으로는 설명하기 어려웠던 이 현상은, 분자 오비탈 이론에 따라 최고점유 오비탈(HOMO)인 π*2p 오비탈에 두 개의 전자가 훈트 규칙에 따라 스핀 평행으로 채워지기 때문에 발생함을 보여준다. 다음 표는 몇 가지 동핵 이원자 분자의 전자 배치와 성질을 요약한다.

분자 오비탈 이론은 이원자 분자뿐만 아니라 다원자 분자의 전자 구조와 결합을 설명하는 데도 효과적으로 적용된다. 다원자 분자에서는 여러 개의 원자 오비탈이 결합하여 분자 전체에 걸쳐 분포하는 다중 중심 분자 오비탈을 형성한다. 이 접근법은 특히 공액 분자, 배위 화합물, 그리고 고체 물질의 띠 이론을 이해하는 데 필수적이다.

가장 간단한 다원자 분자의 예로 삼원자 분자 BeH₂를 들 수 있다. 베릴륨 원자의 원자 오비탈과 두 개의 수소 원자의 1s 오비탈이 결합하여 분자 오비탈을 형성한다. 중심 원자의 오비탈 대칭성에 따라, 두 개의 수소 원자 오비탈은 먼저 적절한 대칭성을 가진 군 오비탈(또는 리간드 군 오비탈)로 결합한 후, 중심 원자의 오비탈과 상호작용한다. 이를 통해 생성된 결합성 및 반결합성 시그마 오비탈은 분자의 결합을 설명한다.

더 복잡한 분자, 예를 들어 벤젠과 같은 방향족 화합물에서는 파이 오비탈이 중요한 역할을 한다. 벤젠의 여섯 개의 탄소 원자는 각각 하나의 p 오비탈을 기여하여, 이들은 서로 겹쳐져 분자 전체에 걸쳐 델로컬라이즈된(비편재화된) 파이 분자 오비탈 세트를 형성한다. 이 오비탈들은 에너지 준위에 따라 다음과 같이 채워진다.

이러한 델로컬라이제이션은 벤젠에 특별한 안정성, 즉 방향족성을 부여한다. 분자 오비탈 다이어그램은 이러한 에너지 준위와 전자 배치를 시각적으로 보여주어 분자의 반응성과 자기적 성질을 예측하는 데 도움을 준다.

다원자 분자에 대한 분자 오비탈 이론의 적용은 대칭성 적응 선형 결합(SALC) 방법과 같은 체계적인 접근법을 통해 이루어진다. 이 방법은 군론을 활용하여 리간드 군 오비탈을 대칭성에 따라 분류하고, 이들이 중심 원자의 오비탈과 어떻게 결합할 수 있는지를 결정한다. 이는 배위 화합물과 금속 착물의 결합과 배위장 이론을 이해하는 핵심 도구가 된다.

분자 오비탈 이론은 분자의 자기적 성질, 특히 상자성과 반자성을 예측하는 데 매우 효과적인 도구를 제공한다. 이 예측은 분자 오비탈에 전자가 채워지는 방식, 즉 전자 배치와 직접적으로 연관된다. 핵심은 모든 분자 오비탈이 두 개의 전자까지 수용할 수 있으며, 이 두 전자는 파울리 배타 원리에 따라 반대 방향의 스핀을 가져야 한다는 점이다.

분자의 자기적 성질은 홀전자의 존재 여부에 의해 결정된다. 분자 오비탈 다이어그램을 작성하고 훈트 규칙에 따라 전자를 채운 후, 하나 이상의 분자 오비탈에 짝을 이루지 않은 전자, 즉 홀전자가 존재하면 그 분자는 상자성을 띤다. 이 홀전자들은 외부 자기장에 의해 정렬되어 분자 전체가 약한 자석처럼 행동한다. 반면, 모든 전자가 짝을 이루어 홀전자가 하나도 없는 경우, 그 분자는 반자성을 나타낸다.

대표적인 예로 이산화 산소 분자(O₂)를 들 수 있다. 원자가 결합 이론으로는 O₂의 상자성을 설명하기 어렵지만, 분자 오비탈 이론은 이를 명확히 예측한다. O₂의 분자 오비탈 에너지 준위도에 따르면, 최외각 전자들은 에너지가 같은 두 개의 파이 오비탈(π*2px와 π*2py)에 각각 하나씩의 전자가 채워진다. 훈트 규칙에 따라 이 두 전자는 같은 스핀 방향을 유지하며, 결과적으로 O₂ 분자에는 두 개의 홀전자가 존재하여 상자성을 띠게 된다[4]. 이와 달리, 모든 전자가 짝을 이루는 질소 분자(N₂)는 반자성임을 이론으로부터 쉽게 예측할 수 있다.

원자가 결합 이론은 분자 오비탈 이론이 등장하기 전에 화학 결합을 설명하는 데 널리 사용된 주요 이론이다. 이 이론은 1927년 월터 하이틀러와 프리츠 런던이 수소 분자에 대한 양자역학적 처리를 통해 처음 제안했으며, 이후 라이너스 폴링 등에 의해 발전되었다. 핵심 개념은 두 원자가 각각의 원자가 전자를 공유하여 공유 결합을 형성한다는 것이다.

이 이론에서는 두 원자의 원자 오비탈이 겹쳐지면서 결합이 형성된다고 설명한다. 오비탈의 중첩 정도가 클수록 결합은 더 강해진다. 또한, 두 오비탈의 파동 함수 위상이 일치해야 결합이 안정화된다. 원자가 결합 이론은 시그마 결합과 파이 결합을 명확히 구분하며, 혼성 오비탈 개념을 도입하여 메테인이나 에테인과 같은 분자의 정사면체형 또는 평면 삼각형 구조를 성공적으로 예측했다.

다음 표는 원자가 결합 이론의 주요 특징을 요약한 것이다.

원자가 결합 이론은 직관적이고 화학자들에게 친숙한 접근법을 제공했으나, 전자가 특정 결합에 국域化되어 있다고 가정하기 때문에 분자 오비탈 이론에 비해 분자 전체에 걸쳐 비편재화된 전자 밀도를 설명하는 데 한계가 있었다. 특히 벤젠과 같은 공명 구조를 가진 분자나 산소 분자의 삼중항 상태와 같은 자기적 성질을 설명하기 어려웠다.

분자 오비탈 이론과 원자가 결합 이론은 분자 내 전자 구조와 화학 결합을 설명하는 두 가지 주요 이론이다. 각 이론은 서로 다른 접근법과 장점을 가지며, 현대 화학에서는 이 두 관점을 통합적으로 활용하여 분자의 성질을 더욱 포괄적으로 이해한다.

분자 오비탈 이론은 분자를 하나의 양자역학적 계로 보고, 원자 오비탈이 선형 결합하여 분자 전체에 걸쳐 퍼져 있는 분자 오비탈을 형성한다고 설명한다. 이 이론은 분광학, 자기적 성질, 그리고 분자 궤도함수 이론 계산과의 직접적인 연결성을 강점으로 한다. 반면, 원자가 결합 이론은 두 원자 간의 공유 전자쌍에 초점을 맞추며, 공명 구조와 혼성 오비탈 개념을 통해 분자의 국지적 결합과 기하 구조를 직관적으로 설명한다.

두 이론은 서로 모순되지 않으며, 상호 보완적 관계에 있다. 예를 들어, 벤젠 분자의 결합을 설명할 때, 원자가 결합 이론은 케쿨레 구조와 공명 구조를 제시하는 반면, 분자 오비탈 이론은 벤젠 고리의 6개의 탄소 원자 p 오비탈이 결합하여 형성된 비편재화된 π 오비탈을 계산하여 에너지 안정성을 정량적으로 보여준다. 현대의 계산 화학은 종종 이 두 모델의 장점을 결합하거나, 더 정교한 밀도 범함수 이론과 같은 방법을 통해 분자의 전자 구조를 모델링한다.

결론적으로, 분자 오비탈 이론과 원자가 결합 이론은 화학 결합이라는 동일한 현상을 서로 다른 수학적 형식과 개념적 틀을 통해 조명한다. 화학 교육과 연구에서는 특정 분자의 성질이나 설명하려는 현상에 따라 더 적합한 이론을 선택하거나, 두 관점을 모두 고려함으로써 화학 결합에 대한 다층적이고 통합된 이해를 도모한다.