모델 체크포인트

모델 체크포인트는 머신러닝 또는 딥러닝 모델 학습 과정에서 특정 시점의 모델 상태를 완전히 저장한 파일 또는 파일 집합이다. 이는 모델의 가중치와 편향 파라미터를 포함하며, 종종 옵티마이저 상태, 학습률, 에폭 수 등의 학습 메타데이터도 함께 저장한다. 체크포인트의 핵심 목적은 장시간 진행되는 학습 작업의 중간 결과를 보존하여, 학습이 중단되었을 때 마지막 저장 지점부터 학습을 재개할 수 있게 하는 것이다.

주요 목적은 다음과 같다. 첫째, 학습 재개를 가능하게 하여 하드웨어 장애나 시스템 중단으로 인한 시간과 자원 낭비를 방지한다. 둘째, 학습 과정에서 생성된 여러 체크포인트를 비교하여 최고 성능을 보이는 모델을 선택할 수 있게 한다. 셋째, 특정 학습 단계의 모델 상태를 고정시켜 실험의 재현성을 보장한다.

따라서 모델 체크포인트는 단순한 모델 저장을 넘어, 효율적이고 안정적인 모델 개발 라이프사이클을 관리하는 필수 도구 역할을 한다.

모델 체크포인트는 모델의 학습 상태를 완전히 복원할 수 있도록 필요한 모든 정보를 포함합니다. 가장 핵심적인 요소는 모델 가중치입니다. 이는 신경망의 각 계층에서 학습된 매개변수 값을 담고 있으며, 모델이 데이터에서 학습한 지식의 본질을 나타냅니다. 또한, 옵티마이저의 상태도 함께 저장됩니다. 여기에는 확률적 경사 하강법과 같은 최적화 알고리즘이 사용하는 모멘텀 버퍼나 적응형 학습률 변수 등이 포함되어, 저장 지점에서의 정확한 최적화 상태를 유지합니다.

체크포인트는 모델 구조와 학습 진행 상황에 대한 정보도 저장합니다. 여기에는 현재 에포크 수, 반복 횟수, 그리고 해당 시점의 학습률 값이 포함됩니다. 일부 구현에서는 손실 함수의 출력 값이나 검증 데이터에 대한 정확도 같은 평가 지표도 기록합니다. 이 정보는 학습 과정을 추적하고, 나중에 학습 곡선을 분석하는 데 필수적입니다.

저장되는 정보의 구체적인 내용은 사용하는 딥러닝 프레임워크에 따라 다릅니다. 다음 표는 일반적으로 체크포인트에 포함되는 정보 유형을 정리한 것입니다.

또한, 사용자 정의 콜백이나 학습 루프를 통해 추가적인 사용자 메타데이터를 체크포인트에 포함시킬 수 있습니다. 이는 데이터셋 버전, 하이퍼파라미터 구성, 실험 환경 정보 등을 기록하여 실험의 재현성을 높이는 데 기여합니다.

주기적 저장은 정해진 시간 또는 학습 단계 간격마다 모델의 상태를 자동으로 기록하는 전략이다. 이 방식은 학습 과정의 연속성을 보장하고, 예기치 못한 중단 시 가장 최근의 안정적인 지점에서 학습을 재개할 수 있게 한다. 일반적으로 에포크나 스텝 수를 기준으로 저장 주기를 설정한다. 예를 들어, 매 5번째 에포크가 끝날 때마다, 또는 매 10,000번의 학습 스텝마다 체크포인트를 생성하도록 구성한다.

주기 설정은 저장 공간 효율성과 데이터 안전성 사이의 균형을 고려해야 한다. 너무 잦은 저장은 디스크 공간을 빠르게 소모하고 입출력 오버헤드를 발생시킬 수 있다. 반면, 저장 간격이 너무 길면 시스템 장애 시 상당한 학습 진행 분량을 잃을 위험이 있다. 일반적인 실무에서는 에포크당 한 번, 또는 몇 시간마다 한 번 저장하는 방식을 많이 사용한다.

이 전략은 구현이 간단하고 예측 가능하다는 장점이 있다. 대부분의 머신러닝 프레임워크는 콜백 또는 스케줄러 기능을 통해 주기적 저장을 기본적으로 지원한다. 학습 스케줄을 미리 알고 있을 때, 또는 학습이 장시간 지속될 것으로 예상될 때 특히 유용한 방식이다.

성능 기반 저장은 모델의 검증 성능 지표를 기준으로 체크포인트를 저장하는 전략이다. 이는 단순히 일정 주기마다 저장하는 방식보다 저장 공간을 효율적으로 사용하고, 가장 우수한 성능을 보인 모델 상태를 확실히 보존할 수 있다는 장점이 있다. 일반적으로 검증 손실이나 정확도와 같은 평가 메트릭을 모니터링하며, 이전 체크포인트보다 성능이 개선되었을 때만 새로운 체크포인트를 저장한다. 이 방식은 과적합이 발생하기 시작하면 모델 성능이 저하되므로, 그 이전의 최적 상태를 자동으로 포착하는 데 유용하다.

구현 방식은 주로 '최고 성능 유지'와 '조기 종료'와 결합된다. 예를 들어, 검증 세트에 대한 정확도가 지금까지의 최고 기록을 갱신할 때마다 체크포인트를 저장한다. 반대로, 성능이 일정 에폭 동안 개선되지 않으면 학습을 조기에 중단하는 조기 종료 기법과 함께 사용될 수 있다. 이때 마지막으로 저장된 체크포인트는 가장 성능이 좋았던 모델이 된다. 성능 기준은 작업에 따라 다르게 설정될 수 있으며, 다중 메트릭을 복합적으로 고려하는 경우도 있다.

이 전략을 사용할 때는 성능 지표의 변동성으로 인해 체크포인트가 너무 자주 저장되거나, 반대로 오랜 기간 저장되지 않을 수 있다는 점을 고려해야 한다. 이를 완화하기 위해 '인내심' 매개변수를 설정하여, 성능이 개선된 후 일정 에폭 동안은 새 기록이 나오지 않더라도 기다리는 방법이 흔히 사용된다[1]. 또한, 저장할 최고 성능 체크포인트의 개수를 제한하여 디스크 공간을 관리하는 것도 일반적이다.

모델 체크포인트는 다양한 파일 포맷으로 저장될 수 있으며, 선택한 포맷은 호환성, 저장 효율성, 로드 속도에 영향을 미친다. 일반적으로 사용되는 포맷은 프레임워크에 따라 다르다.

대표적인 저장 포맷은 다음과 같다.

포맷 선택 시에는 장기적인 접근성과 배포 요구사항을 고려해야 한다. 단일 파일 포맷은 관리가 간편하지만, 대규모 모델에서는 파일 크기가 매우 커질 수 있다. 반면, 디렉터리 기반 포맷(예: TensorFlow SavedModel)은 여러 파일로 구성되어 버전 관리 시스템과의 통합에 유리할 수 있다. 또한 ONNX와 같은 표준화된 포맷은 학습 프레임워크와 추론 엔진 사이의 호환성을 보장하는 데 중요하다.

모델 체크포인트의 가장 기본적이고 중요한 활용 사례는 학습 과정을 중단한 지점에서 정확히 재개하거나 이어서 학습하는 것이다. 대규모 딥 러닝 모델의 학습에는 수 시간에서 수 주에 걸친 긴 시간과 상당한 계산 자원이 소요된다. 하드웨어 장애, 시스템 업데이트, 자원 할당 제한, 또는 의도적인 학습 일시 정지와 같은 다양한 이유로 학습이 중단될 수 있다. 체크포인트가 없다면 이러한 중단은 모든 학습 진행을 초기 상태로 되돌리는 결과를 초래하며, 이는 시간과 비용의 큰 낭비로 이어진다.

학습을 재개할 때는 저장된 체크포인트 파일을 로드하여 모델의 가중치와 편향 파라미터를 정확히 중단 당시의 상태로 복원한다. 또한 옵티마이저의 상태(예: SGD의 모멘텀, Adam의 일차 및 이차 모멘트 추정값)도 함께 복원해야 학습 속도와 안정성을 유지하며 이어갈 수 있다. 일부 프레임워크는 학습률 스케줄러의 현재 스텝이나 에포크 번호와 같은 추가 학습 메타데이터도 저장한다.

이 기능은 실험 환경에서 유연성을 크게 높인다. 연구자는 특정 에포크에서의 모델 성능을 평가한 후, 동일한 조건으로 학습을 계속하거나 하이퍼파라미터를 조정하여 새로운 방향으로 학습을 분기시킬 수 있다. 또한 계산 자원이 제한적인 환경에서는 야간이나 주말에 학습을 실행하고, 체크포인트를 저장한 후 평일 낮 시간에 학습을 재개하는 방식으로 자원을 효율적으로 활용할 수 있다.

모델 체크포인트는 학습 과정에서 생성된 모델의 특정 상태를 저장한 파일 또는 파일 집합이다. 이 체크포인트들은 학습 중간 결과물로서, 최종 모델뿐만 아니라 다양한 시점의 모델 성능을 평가하고 비교하는 데 핵심적인 역할을 한다. 서로 다른 하이퍼파라미터 설정이나 학습 단계에서 저장된 체크포인트들을 평가함으로써, 모델의 진화 과정과 성능 변화를 체계적으로 분석할 수 있다.

평가 과정에서는 일반적으로 검증 데이터셋이나 별도의 테스트 데이터셋을 사용하여 각 체크포인트의 성능을 측정한다. 주요 평가 지표로는 정확도, 정밀도, 재현율, F1 점수, 손실 값 등이 활용된다. 이 결과를 비교하기 위해 다음과 같은 표를 작성하는 것이 일반적이다.

이러한 비교를 통해 단순히 최종 에포크의 모델보다 중간에 저장된 모델이 더 나은 성능을 보이는 경우를 발견할 수 있다. 이는 과적합이 발생하기 시작하는 시점을 파악하거나, 학습률 스케줄링의 효과를 검증하는 데 도움을 준다. 또한, 동일한 데이터로 학습되었지만 다른 하이퍼파라미터(예: 배치 크기, 옵티마이저)를 가진 여러 실험의 체크포인트들을 평가하여 어떤 설정이 가장 효과적인지 비교 분석할 수 있다.

체크포인트 기반 평가의 또 다른 장점은 모델의 일반화 성능을 시간 흐름에 따라 모니터링할 수 있다는 점이다. 검증 데이터셋에 대한 성능이 특정 에포크 이후로 개선되지 않거나 오히려 악화된다면, 이는 조기 종료의 명확한 신호가 된다. 최종적으로, 이러한 체계적인 평가와 비교를 통해 단일의 '최고 성능 모델'을 선정하거나, 성능이 우수한 여러 체크포인트를 앙상블하여 더 강력한 예측 모델을 구성하는 데 활용한다.

학습 과정에서 생성된 여러 모델 체크포인트 중에서 가장 우수한 성능을 보이는 모델을 식별하고 선택하는 과정이다. 단순히 최종 학습 단계의 모델을 사용하는 것보다, 검증 데이터셋에서의 성능을 기준으로 최적의 시점의 모델을 선정함으로써 과적합을 방지하고 일반화 성능을 극대화할 수 있다.

일반적으로 검증 손실이나 정확도와 같은 평가 지표를 기준으로 최적 모델을 선정한다. 대표적인 전략으로는 검증 손실이 가장 낮은 시점의 체크포인트를 저장하는 '최상의 모델 저장'이 있다. 주요 프레임워크들은 이 기능을 내장하고 있으며, 예를 들어 Keras는 ModelCheckpoint 콜백에 save_best_only=True 옵션을 제공한다. 선택 기준은 다음과 같다.

선택된 최적 체크포인트는 이후 모델 평가나 배포에 직접 사용된다. 또한, 여러 번의 학습 실험에서 생성된 서로 다른 체크포인트들을 동일한 평가 프로토콜로 비교하여 최종 모델을 결정하는 데에도 활용된다. 이 과정에서는 체크포인트에 평가 지표와 같은 메타데이터가 충실히 기록되어 있어야 효율적인 비교가 가능하다[2].

대표적인 딥러닝 프레임워크는 각각 고유의 방식으로 모델 체크포인트 저장 기능을 제공한다. TensorFlow는 tf.train.Checkpoint와 tf.keras.callbacks.ModelCheckpoint 콜백을 주요 도구로 사용한다. ModelCheckpoint 콜백은 에포크 종료 시 모델의 가중치를 자동으로 저장하며, monitor 인자를 통해 검증 손실이나 정확도 같은 지표를 관찰하여 최적의 모델만 저장하도록 설정할 수 있다. 저장 포맷으로는 기본적인 체크포인트 파일 세트나 HDF5(.h5), SavedModel 형식을 지원한다.

PyTorch는 torch.save()와 torch.load() 함수를 사용하여 상태 사전(state dict)을 직렬화하는 방식을 취한다. 모델의 state_dict()와 옵티마이저의 state_dict()를 함께 저장하는 것이 일반적이다. 공식 문서는 다음과 같은 패턴을 권장한다.

```python

torch.save({

'epoch': epoch,

'model_state_dict': model.state_dict(),

'optimizer_state_dict': optimizer.state_dict(),

'loss': loss,

}, 'checkpoint.pth')

```

torch.nn.Module과 torch.optim.Optimizer 객체는 load_state_dict() 메서드를 통해 저장된 상태를 다시 불러올 수 있다.

다른 프레임워크도 유사한 인터페이스를 제공한다. Keras (독립형)는 model.save()를, JAX와 Flax는 flax.training.checkpoints 모듈을 주로 사용한다. Fast.ai 라이브러리는 Learner 객체의 save와 load 메서드를 제공하여 모델과 옵티마이저, 그리고 에포크 번호 같은 학습 상태를 한 번에 저장하고 복원한다.

이러한 구현 차이에도 불구하고, 모든 프레임워크의 체크포인트는 모델의 학습된 매개변수(가중치와 편향)를 완전히 복원할 수 있는 충분한 정보를 포함한다는 공통점을 가진다. 선택한 프레임워크의 체크포인트 메커니즘을 이해하는 것은 효과적인 모델 관리와 실험 재현성 확보에 필수적이다.

모델 체크포인트 관리는 학습 과정에서 생성되는 여러 파일을 체계적으로 추적하고 유지하는 작업이다. 이를 효율적으로 돕기 위해 다양한 도구와 라이브러리가 개발되었다. 이러한 도구들은 체크포인트의 저장, 로드, 정리, 버전 비교를 자동화하여 연구자와 엔지니어의 작업 부담을 줄여준다.

주요 관리 도구는 다음과 같이 분류할 수 있다.

이러한 도구를 사용할 때는 몇 가지 고려사항이 있다. 먼저, 도구 선택은 사용하는 머신러닝 프레임워크와 클라우드 환경과의 호환성을 우선시해야 한다. 또한, 체크포인트 파일과 함께 모델 아키텍처, 하이퍼파라미터, 학습 데이터셋 버전 등의 메타데이터를 반드시 함께 기록해야 재현성과 추적이 보장된다[3]. 마지막으로, 저장 공간 비용을 관리하기 위해 자동화된 정책(예: 성능 하위 N개 모델 자동 삭제)을 설정하는 것이 좋다.

모델 체크포인트를 효과적으로 관리하기 위해서는 체계적인 저장소 구조와 버전 관리 전략이 필수적이다. 체크포인트 파일은 단순히 저장하는 것을 넘어, 어떤 실험에서 생성되었는지, 어떤 하이퍼파라미터를 사용했는지, 성능은 어땠는지에 대한 맥락과 함께 보관되어야 그 가치를 발휘한다.

일반적으로 체크포인트는 프로젝트별 전용 디렉토리(예: ./checkpoints/)에 저장하며, 실험별로 하위 디렉토리를 생성하는 것이 좋다. 각 실험 디렉토리에는 체크포인트 파일과 함께 실험 설정을 기록한 YAML 또는 JSON 파일, 학습 로그, 평가 결과 등을 함께 저장한다. 이는 특정 체크포인트를 재현하거나 분석하는 데 필요한 모든 정보를 한곳에 모으는 데 도움이 된다.

버전 관리 측면에서는 Git과 같은 코드 버전 관리 시스템으로는 대용량의 체크포인트 바이너리 파일을 관리하기 어렵다. 따라서 DVC(Data Version Control)나 MLflow, Weights & Biases와 같은 MLOps 도구를 활용하는 것이 일반적이다. 이러한 도구들은 체크포인트 파일 자체는 클라우드 저장소(Amazon S3, Google Cloud Storage 등)에 저장하고, 해당 파일의 해시값과 메타데이터(실험 ID, 커밋 해시, 태그 등)만 Git 저장소에서 관리하는 방식을 제공한다. 이를 통해 어떤 코드 버전으로 어떤 체크포인트가 생성되었는지를 명확하게 추적할 수 있다.

저장 주기 설정은 학습 시간, 하드웨어 비용, 모델 성능 추적 정밀도 사이의 균형을 고려하여 결정해야 하는 중요한 요소이다. 너무 짧은 주기로 저장하면 디스크 공간을 빠르게 소모하고 입출력 오버헤드로 인해 학습 속도가 저하될 수 있다. 반대로 너무 긴 주기로 저장하면 중요한 학습 중간 결과를 놓치거나 시스템 장애 시 많은 학습 진행을 잃을 위험이 있다.

일반적인 전략은 학습 초기에는 상대적으로 짧은 주기(예: 매 에포크)로 저장하고, 학습이 안정화된 후에는 주기를 늘리는 것이다. 에포크 단위 저장은 가장 직관적인 방법이지만, 데이터셋 크기가 매우 클 경우 한 에포크가 수 시간 이상 소요될 수 있어 이 방식은 비효율적일 수 있다. 따라서 많은 경우 학습 단계(step)나 일정 시간 간격(예: 30분, 1시간)을 기준으로 저장 주기를 설정한다.

다음은 다양한 저장 주기 설정 전략을 비교한 표이다.

최종적으로는 학습 작업의 총 예상 시간, 사용 가능한 저장 공간, 그리고 모델 성능의 변화를 얼마나 세밀하게 분석해야 하는지에 따라 저장 주기를 결정한다. 실험적 탐색 단계에서는 잦은 저장이, 대규모 프로덕션 학습에서는 계산 비용과 저장 비용을 고려한 절충된 주기 설정이 권장된다.

모델 체크포인트는 학습 과정에서 반복적으로 생성되므로, 저장 공간을 효율적으로 관리하는 것이 중요하다. 대규모 신경망이나 장기간의 학습에서는 체크포인트 파일 하나의 크기가 기가바이트 단위에 이를 수 있으며, 이를 무분별하게 저장하면 디스크 공간이 빠르게 고갈될 수 있다. 따라서 저장 전략과 정리 정책을 사전에 수립하여 실행하는 것이 필수적이다.

일반적인 관리 전략은 다음과 같다.

* 보존 정책 수립: 모든 체크포인트를 영구 보관하기보다는, 가장 최근의 N개 체크포인트와 검증 성능이 가장 높은 M개 체크포인트만 유지하는 방식이 널리 사용된다. 이는 과적합을 방지하고 최적 모델을 확보하면서도 공간을 절약한다.

* 계층적 저장소 활용: 활발히 사용 중인 최신 체크포인트는 고속 로컬 저장소나 NAS에 보관하고, 오래되거나 참조 빈도가 낮은 체크포인트는 클라우드 스토리지나 테이프 백업과 같은 저비용 아카이브 저장소로 이동시킨다.

* 주기적인 정리 작업 자동화: 학습 스크립트나 CI/CD 파이프라인에 정리 로직을 통합하여, 설정한 정책에 따라 오래된 체크포인트를 자동으로 삭제하도록 한다.

저장 공간 관리의 또 다른 측면은 체크포인트 파일 자체의 크기를 최적화하는 것이다. 모델 압축 기법 중 하나인 양자화를 적용하여 체크포인트를 저장할 수 있다. 예를 들어, 32비트 부동소수점 가중치를 16비트 또는 8비트 정수로 변환하여 저장하면 파일 크기를 크게 줄일 수 있다[4]. 또한, 딥러닝 프레임워크에 따라 제공되는 체크포인트 형식(예: PyTorch의 .pt, TensorFlow의 SavedModel)마다 효율성이 다르므로, 필요에 맞는 형식을 선택하는 것도 중요하다.

모델 체크포인트에 메타데이터를 기록하는 것은 단순한 모델 가중치 저장을 넘어 학습 과정의 맥락을 보존하고 향후 분석 및 재현을 가능하게 하는 핵심적인 관행이다. 체크포인트 파일과 함께 저장되는 메타데이터는 학습의 상태, 구성, 성능을 포괄적으로 설명하는 정보를 포함한다.

일반적으로 기록되는 주요 메타데이터는 다음과 같다.

이러한 메타데이터는 체크포인트 파일 내에 포함되거나, 별도의 설정 파일(예: JSON, YAML)로 동반 저장된다. 일부 프레임워크는 체크포인트 저장 시 자동으로 기본 정보를 기록하지만, 실험 관리 도구와 연계하여 보다 풍부한 정보를 체계적으로 저장하는 것이 좋다. 메타데이터 기록의 가장 큰 가치는 실험의 재현성과 추적성을 보장한다는 점이다. 나중에 특정 체크포인트를 불러올 때, 해당 모델이 어떤 조건에서 어떤 성능을 보였는지 정확히 알 수 있어 최적 모델 선택과 오류 분석에 결정적 역할을 한다. 또한, 학습이 중단된 경우 메타데이터에 저장된 옵티마이저 상태와 학습률 스케줄 정보를 통해 정확히 중단된 지점부터 학습을 재개할 수 있다.

분산 학습 체크포인트는 분산 학습 환경에서 여러 GPU나 노드에 걸쳐 진행되는 학습 과정의 상태를 일관되게 저장하고 복원하는 기술을 가리킨다. 단일 장비 학습과 달리, 모델 파라미터, 옵티마이저 상태, 학습률 스케줄러 상태 등이 여러 장치에 분산되어 있기 때문에, 모든 프로세스의 상태를 조율하여 하나의 일관된 체크포인트로 만드는 과정이 필요하다.

주요 구현 방식으로는 체크포인트 통합 방식과 분산 저장 방식이 있다. 체크포인트 통합 방식은 모든 프로세스의 상태 데이터를 하나의 마스터 프로세스(예: 랭크 0)로 모아 단일 파일로 저장하는 방법이다. 이는 저장과 관리는 간단하지만, 대규모 모델에서는 마스터 프로세스의 메모리 부담이 커질 수 있다. 반면, 분산 저장 방식은 각 프로세스가 자신의 상태를 별도의 파일로 저장하되, 전체 체크포인트를 참조할 수 있는 메타데이터 파일을 생성한다. 이 방식은 메모리 부담을 분산시키지만, 여러 파일을 관리해야 하는 복잡성이 따른다.

분산 학습 체크포인트를 효과적으로 구현하기 위해서는 프레임워크의 지원이 중요하다. 예를 들어, PyTorch의 DistributedDataParallel 환경에서는 torch.distributed.checkpoint 모듈이나 torch.save와 배리어 동기화를 조합하여 구현한다. TensorFlow의 경우 tf.train.Checkpoint가 분산 환경을 일부 지원하지만, 추가적인 설정이 필요할 수 있다. 주요 고려사항은 저장 시 모든 프로세스의 동기화, 대용량 텐서의 효율적 직렬화, 그리고 체크포인트 로드 시 모든 프로세스에 정확히 분배되는지 보장하는 것이다.

이 기술은 대규모 언어 모델이나 초고해상도 이미지 학습과 같이 수십乃至 수백 개의 장치를 사용하는 장기 학습 작업에서 필수적이다. 학습 작업이 며칠 이상 지속되거나 하드웨어 장애 가능성이 있는 클라우드 환경에서, 분산 체크포인트는 시간과 자원의 큰 손실을 방지하는 안전장치 역할을 한다.

체크포인트 압축은 모델 체크포인트 파일의 크기를 줄여 저장 공간을 절약하고, 전송 시간을 단축하기 위한 기술이다. 대규모 언어 모델이나 비전 트랜스포머 모델의 체크포인트는 수십 기가바이트에 달할 수 있어, 저장 및 공유에 실질적인 장벽이 된다. 압축 기법은 주로 모델 가중치에 저장된 정보의 중복성이나 불필요한 정밀도를 제거하는 방식으로 작동한다.

주요 압축 방법은 다음과 같다.

이러한 압축 기법은 종종 결합되어 사용된다. 예를 들어, 먼저 가지치기를 적용한 후 양자화를 수행하면 더 높은 압축률을 달성할 수 있다. 압축된 체크포인트는 모델 배포나 엣지 컴퓨팅 환경에서 특히 유용하다. 그러나 양자화나 가지치기 같은 손실 압축 기법은 모델의 정확도에 미미하지만 영향을 줄 수 있으므로, 압축 후 반드시 성능 검증이 필요하다.

지속적 학습 연계는 모델 체크포인트를 활용하여 새로운 데이터가 지속적으로 유입되는 환경에서 모델을 단계적으로 업데이트하고 성능을 유지하는 접근법을 의미한다. 이 방식은 한 번의 학습으로 완결되는 배치 학습과 대비되며, 변화하는 데이터 분포나 새로운 클래스에 대응하는 데 필수적이다. 체크포인트는 여기서 지식의 기반점 역할을 하여, 이전 학습 상태를 안정적으로 보존한 채로 추가 학습을 진행할 수 있게 한다.

주요 연계 방식으로는 점진적 학습과 전이 학습이 있다. 점진적 학습에서는 새로운 데이터 배치가 도착할 때마다 마지막 체크포인트에서 학습을 재개하여 모델을 점진적으로 조정한다. 전이 학습에서는 대규모 데이터로 사전 학습된 모델의 체크포인트를 불러와, 새로운 하지만 관련된 작업에 맞춰 세부 파라미터를 미세 조정하는 데 활용한다. 두 경우 모두 체크포인트 없이는 매번 처음부터 학습을 시작해야 하므로, 시간과 자원이 크게 낭비된다.

효과적인 연계를 위한 전략은 다음과 같다.

이러한 접근법은 데이터 드리프트가 발생하는 실시간 예측 시스템이나, 사용자 피드백을 반영해야 하는 추천 시스템에서 특히 중요하다. 단, 지속적 학습은 망각 현상[6]이나 체크포인트 관리 복잡성 증가 등의 도전 과제를 동반한다. 따라서 체크포인트 저장 전략과 롤백 메커니즘을 신중하게 설계해야 한다.