cryptsetup

cryptsetup을 사용한 장치 설정 및 포맷은 주로 luksFormat 명령어를 통해 이루어진다. 이 명령은 지정된 블록 장치(하드 디스크나 파티션)에 LUKS 헤더를 생성하고 초기 암호를 설정하는 역할을 한다. 여기서 '포맷'이라는 용어는 파일 시스템을 생성하는 것이 아니라, 암호화에 필요한 메타데이터 영역을 디스크 상에 구성하는 것을 의미한다. 이 과정에서 사용자는 암호화에 사용할 암호화 알고리즘, 키 크기, 해시 함수 등의 매개변수를 지정할 수 있으며, 이를 생략하면 사전 정의된 기본값이 적용된다.

luksFormat 명령 실행 후, 해당 장치는 암호화된 LUKS 컨테이너가 된다. 이 컨테이너 내부의 실제 데이터 영역은 아직 완전히 랜덤 데이터로 덮어쓰여지지 않은 상태이며, 사용자가 처음으로 데이터를 기록할 때 dm-crypt에 의해 실시간으로 암호화된다. 이와 대조적으로 Plain 모드 암호화는 LUKS와 같은 표준화된 헤더나 키 관리 체계 없이 장치를 직접 암호화하므로, 별도의 포맷 과정이 필요하지 않다. Plain 모드에서는 장치를 열면서(open --type plain) 암호화 매개변수를 즉시 지정해야 한다.

LUKS 포맷 시 중요한 점은 초기 패스프레이즈가 키 슬롯 0에 저장된다는 것이다. 이 패스프레이즈는 컨테이너의 실제 데이터를 암호화하는 마스터 키를 잠금 해제하는 데 사용된다. 포맷이 완료된 LUKS 장치는 luksOpen 명령을 통해 매핑된 장치(/dev/mapper/)로 열린 후, 일반적인 파일 시스템 도구(예: mkfs)로 포맷하여 사용할 수 있다. 따라서 전체적인 흐름은 물리적 장치에 LUKS 메타데이터 설정(luksFormat) → 암호화된 컨테이너 열기(luksOpen) → 매핑된 장치에 파일 시스템 생성 순서로 진행된다.

cryptsetup open 명령은 암호화된 장치를 해독된 상태로 사용할 수 있도록 매핑하는 핵심 작업이다. 이 명령을 실행하면 사용자로부터 암호나 키 파일을 입력받아, LUKS 헤더에 저장된 마스터 키를 해독한다. 성공적으로 키를 확인하면, dm-crypt 커널 드라이버를 통해 원본 암호화 장치(예: /dev/sda2)에 대응하는 새로운 블록 장치(예: /dev/mapper/myvolume)를 /dev/mapper/ 디렉터리 아래에 생성한다. 이 매핑된 장치는 일반적인 블록 장치처럼 취급되어 파일 시스템을 생성하거나 마운트하는 데 바로 사용될 수 있다. 암호화와 복호화 작업은 매핑된 장치에 대한 모든 입출력이 발생할 때 커널에 의해 투명하게 처리된다.

장치를 여는 구문은 사용하는 암호화 모드에 따라 약간 다르다. 가장 일반적인 LUKS 모드에서는 cryptsetup luksOpen /dev/sdX1 mapping_name 또는 cryptsetup open --type luks /dev/sdX1 mapping_name 형식을 사용한다. Plain 모드나 TCRYPT(TrueCrypt 호환) 모드 등 다른 모드를 사용할 경우 --type 옵션으로 명시해야 한다. 또한, 키 파일을 사용할 경우 --key-file 옵션을 통해 지정할 수 있으며, LUKS2 형식에서 분리된 헤더를 사용했다면 --header 옵션으로 헤더 파일의 경로를 제공해야 한다.

암호화된 장치 사용을 마치고 매핑을 제거하려면 cryptsetup close mapping_name 명령을 사용한다. 이 명령은 /dev/mapper/ 아래의 매핑 장치를 제거하고, 메모리에 캐시된 암호화 키를 안전하게 지운다. 이는 물리적 장치의 데이터에는 영향을 주지 않으며, 단지 해독된 접근 경로를 닫는 것이다. 시스템 재부팅 시에도 모든 매핑은 자동으로 해제된다. 장치의 현재 상태(사용 중인 암호화 알고리즘, 키 크기, 데이터 영역의 오프셋 등)를 확인하려면 cryptsetup status mapping_name 명령을 사용할 수 있다.

cryptsetup에서 암호 및 키 관리는 암호화된 장치에 대한 접근을 제어하는 핵심 기능이다. 이는 주로 LUKS 확장 모드에서 제공되는 기능으로, 여러 개의 키 슬롯을 통해 다양한 형태의 인증 정보를 유연하게 관리할 수 있게 한다. 암호와 키 파일은 모두 장치의 마스터 키를 잠금 해제하는 데 사용되는 인증 정보이며, 사용자는 이를 추가, 변경 또는 삭제하여 접근 권한을 관리한다.

LUKS 장치는 최대 8개의 키 슬롯을 가질 수 있으며, 각 슬롯은 하나의 암호나 키 파일을 저장한다. luksAddKey 명령을 사용하면 기존 암호를 입력한 후 새로운 암호나 키 파일을 추가할 수 있다. 반대로 luksRemoveKey나 luksKillSlot 명령으로 특정 슬롯의 키를 삭제하여 해당 인증 정보로의 접근을 영구적으로 차단할 수 있다. 암호를 변경할 때는 luksChangeKey 명령을 사용한다.

키 파일은 일반 텍스트 파일이나 바이너리 파일 형태로 생성할 수 있으며, 암호 대신 사용되어 자동화된 시스템에서의 장치 잠금 해제에 유용하다. 키 파일 관리 시 중요한 점은 파일의 보안을 유지하는 것이다. 키 파일은 암호화된 장치 자체와 물리적으로 분리된 안전한 매체에 저장하거나, 적절한 권한으로 보호해야 한다. 모든 키 슬롯을 삭제하는 luksErase 명령은 장치를 영구적으로 접근 불가능하게 만들므로 주의가 필요하다.

LUKS는 Linux Unified Key Setup의 약자로, Linux 시스템에서 디스크 암호화를 위한 사실상의 표준 포맷이다. 이는 기본적인 dm-crypt 암호화 위에 표준화된 메타데이터 헤더와 키 관리 기능을 추가한 확장 포맷이다. LUKS를 사용하면 단일 블록 장치에 여러 개의 암호나 키 파일을 등록하고, 개별적으로 폐기하거나 변경할 수 있다. 이러한 다중 키 슬롯 기능은 시스템 관리나 접근 권한 분배에 유용하다.

LUKS 컨테이너의 구조는 크게 헤더 영역, 키 슬롯 영역, 암호화된 데이터 영역으로 구분된다. 헤더에는 사용된 암호화 사이퍼, 해시 함수, 솔트 값 등 암호화 설정 정보가 저장된다. 키 슬롯에는 사용자가 입력한 패스프레이즈로부터 PBKDF를 통해 유도된 키로 암호화된 실제 데이터 암호화 키(마스터 키)가 보관된다. 이 구조 덕분에 마스터 키를 변경하지 않고도 사용자 패스프레이즈만 쉽게 추가하거나 삭제할 수 있다.

현재 주로 사용되는 LUKS 포맷은 LUKS1과 LUKS2 두 가지 버전이 있다. LUKS1은 기존 포맷이며, LUKS2는 더 유연한 메타데이터 구조, 다양한 PBKDF 알고리즘 지원(예: Argon2), 인증 암호화 모드 사용 가능 등의 향상된 기능을 제공한다. cryptsetup의 최신 버전은 기본 포맷으로 LUKS2를 사용한다. LUKS 헤더는 --header 옵션을 사용하여 데이터 영역과 분리하여 저장할 수도 있어, 암호화된 데이터와 헤더를 물리적으로 다른 미디어에 보관하는 시나리오를 구현할 수 있다.

LUKS와 관련된 주요 cryptsetup 명령어로는 컨테이너를 초기화하는 luksFormat, 장치를 열어 매핑하는 luksOpen, 키를 추가하는 luksAddKey, 키 슬롯을 제거하는 luksKillSlot, 헤더 정보를 출력하는 luksDump 등이 있다. 또한 LUKS 헤더 백업(luksHeaderBackup) 및 복원(luksHeaderRestore) 기능을 통해 헤더 손상에 대비할 수 있다.

Plain 모드는 cryptsetup이 지원하는 가장 기본적인 디스크 암호화 방식이다. 이 모드는 LUKS와 달리 메타데이터 헤더나 키 슬롯 같은 관리 체계를 전혀 사용하지 않는다. 대신, 사용자가 제공한 암호나 키 파일을 직접 사용하여 블록 장치를 섹터 단위로 암호화한다. 이 방식은 장치 설정 시 별도의 포맷 과정이 필요 없으며, 장치를 열면(매핑하면) 그 위에 바로 파일 시스템을 생성할 수 있다.

Plain 모드의 주요 특징은 단순성과 직접성에 있다. 암호화 키는 사용자의 암호문구를 해시 함수로 단일 번 변환하여 생성되며, 솔트가 적용되지 않는다. 이는 설정이 간단하지만, 동일한 암호를 사용하는 여러 장치가 유사한 키를 가질 수 있어 보안 강도가 낮아질 수 있다는 단점이 있다. 또한, 키를 변경하거나 여러 개의 암호를 관리하는 기능이 없어, 키 관리가 복잡해질 수 있다.

이 모드는 주로 호환성이나 특정한 요구 사항을 위해 사용된다. 예를 들어, TrueCrypt나 VeraCrypt의 호환 모드인 TCRYPT를 사용하지 않고도 특정 암호화 방식이 필요한 경우나, LUKS 헤더를 전혀 두지 않는 최소한의 암호화가 필요할 때 활용할 수 있다. 그러나 일반적인 사용에는 키 관리와 보안 기능이 풍부한 LUKS 모드를 권장한다.

Plain 모드로 암호화된 장치는 cryptsetup open --type plain 명령어로 열 수 있으며, 생성된 매핑 장치는 일반적으로 /dev/mapper/ 디렉토리 아래에 위치한다. 모든 암호화 및 복호화 작업은 커널의 dm-crypt 드라이버에 의해 투명하게 처리된다.

TCRYPT는 cryptsetup이 제공하는 확장 기능으로, TrueCrypt 및 VeraCrypt 소프트웨어로 생성된 암호화 컨테이너나 파티션을 Linux 시스템에서 열고 사용할 수 있도록 하는 호환 모드이다. 이 기능을 통해 다른 운영체제나 오래된 시스템에서 만들어진 암호화 볼륨에 접근할 수 있다.

이 모드를 사용하려면 cryptsetup open 명령에 --type tcrypt 옵션을 지정해야 한다. TCRYPT 모드는 TrueCrypt와 VeraCrypt가 지원하는 다양한 암호화 알고리즘(예: AES, Serpent, Twofish) 및 체인 모드(예: XTS, LRW)를 처리할 수 있으며, 숨겨진 볼륨(Hidden Volume)이 존재하는 경우에도 대응이 가능하다. 명령 실행 시 올바른 패스프레이즈나 키 파일을 제공해야 매핑된 장치를 얻을 수 있다.

TCRYPT 확장 기능은 주로 데이터 마이그레이션이나 일시적인 접근을 위한 용도로 사용된다. LUKS 포맷처럼 키 슬롯 관리나 메타데이터 업데이트와 같은 고급 관리 기능은 제공하지 않는다. 따라서 TrueCrypt나 VeraCrypt 볼륨을 Linux에서 지속적으로 사용하려는 경우, 해당 볼륨의 데이터를 백업한 후 LUKS로 새롭게 암호화하는 것이 일반적으로 권장된다.

BITLK 확장 기능은 cryptsetup 유틸리티가 Microsoft Windows의 BitLocker 드라이브 암호화 기술로 생성된 장치를 읽고 매핑할 수 있도록 하는 호환성 모드이다. 이 기능을 통해 Linux 시스템 사용자는 Windows에서 암호화된 외장 하드 드라이브나 USB 플래시 드라이브와 같은 저장 장치에 접근할 수 있다. 주된 동작은 open --type bitlk 명령어를 사용하여 암호화된 장치를 열고, 올바른 복구 암호나 BitLocker To Go 암호를 제공한 후 Linux에서 일반 블록 장치처럼 사용할 수 있는 매핑된 장치를 생성하는 것이다.

이 확장 기능은 BitLocker의 기본적인 암호 해독 및 매핑에 제한적으로 지원을 제공한다. cryptsetup의 다른 주요 모드인 LUKS와 달리, BITLK 모드는 BitLocker 볼륨의 암호화 설정을 변경하거나 새로운 키를 추가하는 등의 관리 기능을 제공하지 않는다. 지원되는 암호화 방식은 BitLocker의 기본 설정에 의존하며, 일반적으로 AES-CBC 또는 XTS 모드와 함께 사용된다. 사용자는 Windows 환경에서 해당 장치의 암호를 변경하거나 관리해야 한다.

사용 예시로, /dev/sdc1에 위치한 BitLocker로 암호화된 외장 드라이브를 mybitlockervol이라는 이름으로 Linux에서 열려면 cryptsetup open --type bitlk /dev/sdc1 mybitlockervol 명령을 실행한 후 프롬프트에 암호를 입력하면 된다. 성공하면 /dev/mapper/mybitlockervol 장치가 생성되어 mount 명령으로 파일 시스템을 마운트할 수 있다. 이 기능은 이중 부팅 시스템이나 크로스 플랫폼 데이터 교환 시나리오에서 유용하게 활용된다.

FVAULT2 확장은 cryptsetup이 Apple의 macOS FileVault 2(FV2)로 암호화된 장치를 읽기 전용으로 열 수 있게 해주는 호환 모드이다. 이 기능을 통해 Linux 시스템에서 macOS의 전체 디스크 암호화로 보호된 외장 하드 드라이브나 파티션에 저장된 데이터에 접근할 수 있다. FVAULT2 모드는 주로 데이터 복구나 파일 접근과 같은 읽기 작업에 사용되며, 암호화된 장치를 수정하거나 새로운 FileVault2 볼륨을 생성하는 기능은 제공하지 않는다.

이 모드를 사용하려면 cryptsetup open 명령어에 --type fvault2 옵션을 지정해야 한다. 사용자는 macOS에서 설정한 암호를 입력하여 장치를 해제하고 매핑된 블록 장치를 생성한다. 생성된 매핑 장치(예: /dev/mapper/backup_mac)를 통해 일반적인 파일 시스템 마운트 절차를 수행하면 암호화된 데이터에 접근할 수 있다. 이 과정은 LUKS 장치를 여는 방식과 유사하지만, 내부적으로는 FileVault2의 고유한 암호화 방식과 메타데이터 구조를 처리한다.

FVAULT2 지원은 오픈 소스 커뮤니티의 노력으로 추가된 기능으로, 크로스 플랫폼 데이터 상호운용성을 높이는 데 기여한다. TrueCrypt나 BitLocker 호환 모드와 마찬가지로, 이 확장은 암호화 표준 간의 벽을 허무는 cryptsetup의 다목적성을 보여준다. 사용 시 주의할 점은 이 모드가 완벽한 호환성을 보장하지 않을 수 있으며, 특히 새로운 버전의 macOS나 변경된 암호화 알고리즘에서는 동작하지 않을 수 있다는 것이다.

LUKS 암호화 파티션을 생성하는 과정은 cryptsetup 유틸리티의 핵심 기능이다. 이 작업은 luksFormat 액션을 통해 수행되며, 지정된 블록 장치에 LUKS 헤더와 키 슬롯 영역을 생성하고 초기 암호를 설정한다. 기본적으로 최신 버전의 cryptsetup은 LUKS2 포맷을 사용하지만, --type luks1 옵션을 지정하여 이전 LUKS1 포맷으로 생성할 수도 있다.

명령어 실행 전 대상 장치(예: /dev/sdX1)가 올바르게 준비되었는지 확인해야 한다. luksFormat 명령은 장치의 기존 데이터를 모두 파괴한다. 실행 시 사용자에게 암호를 두 번 입력하도록 요청하여 오타를 방지한다. 이때 설정된 암호는 기본적으로 0번 키 슬롯에 저장되며, 나중에 luksAddKey 명령으로 추가 암호를 설정할 수 있다. 생성된 LUKS 컨테이너는 dm-crypt 커널 모듈을 통해 투명한 암호화/복호화를 제공한다.

LUKS 파티션 생성 후에는 luksOpen (또는 open) 명령으로 장치를 열고 디바이스 매퍼를 통해 /dev/mapper/ 아래에 매핑된 장치 이름(예: encrypted_volume)을 생성해야 한다. 이 매핑된 장치에 대해 일반적인 파일 시스템(예: ext4, XFS)을 생성하고 마운트하여 사용할 수 있다. LUKS 헤더는 암호화 설정, 사용된 암호화 알고리즘, 키 슬롯 정보 등을 포함하며, luksDump 명령으로 이 정보를 확인할 수 있다.

암호화 장치를 마운트하려면 먼저 cryptsetup 명령어를 사용하여 암호화된 블록 장치를 해독하고 디바이스 매퍼를 통해 가상 장치를 생성해야 한다. 이 과정을 "장치 열기"라고 한다. 예를 들어, /dev/sdb1에 위치한 LUKS 암호화 파티션을 myvolume이라는 이름으로 열려면 cryptsetup luksOpen /dev/sdb1 myvolume 명령을 실행한다. 이때 사용자는 설정한 암호를 입력하여 인증해야 한다. 성공하면 /dev/mapper/myvolume 경로에 해독된 가상 장치가 생성된다.

생성된 가상 장치(/dev/mapper/myvolume)는 일반적인 블록 장치와 동일하게 취급되므로, 여기에 파일 시스템을 생성하거나 마운트할 수 있다. 예를 들어, mkfs.ext4 /dev/mapper/myvolume으로 ext4 파일 시스템을 포맷한 후, mount /dev/mapper/myvolume /mnt/encrypted 명령으로 원하는 마운트 포인트에 마운트하면 된다. 이제 /mnt/encrypted 디렉터리를 통해 암호화된 데이터에 일반 파일처럼 접근할 수 있다.

사용을 마친 후에는 마운트를 해제(umount /mnt/encrypted)하고, cryptsetup luksClose myvolume 명령으로 암호화 장치 매핑을 닫아야 한다. 이렇게 하면 메모리에서 암호화 키가 제거되고, /dev/mapper/ 아래의 가상 장치가 사라져 데이터가 다시 보호된다. 부팅 시 자동으로 장치를 열고 마운트하려면 /etc/crypttab과 /etc/fstab 파일을 적절히 구성하면 된다.

키 슬롯 관리는 LUKS 암호화 장치의 핵심 기능 중 하나이다. LUKS는 최대 8개의 키 슬롯을 지원하며, 각 슬롯은 하나의 암호나 키 파일을 저장할 수 있다. 이는 여러 사용자가 각자의 비밀번호로 동일한 장치에 접근하거나, 백업 키를 별도로 관리할 수 있게 해준다. 관리자는 cryptsetup 명령어를 사용하여 이러한 키 슬롯을 추가, 변경, 제거할 수 있다.

새로운 키를 추가하려면 기존의 유효한 비밀번호를 사용하여 luksAddKey 명령을 실행한다. 예를 들어, /dev/sdb1 장치에 새 키를 추가하는 명령은 cryptsetup luksAddKey /dev/sdb1이다. 이 명령은 새 비밀번호를 입력받아 빈 슬롯에 저장한다. 특정 키 슬롯의 비밀번호를 변경하려면 luksChangeKey 명령을, 더 이상 사용하지 않는 키 슬롯을 완전히 삭제하려면 luksKillSlot 명령을 사용한다. 슬롯 삭제 시 해당 슬롯에 저장된 키 자료는 암호학적으로 안전한 방식으로 덮어쓰여 복구가 불가능하게 된다.

키 슬롯의 상태와 각 슬롯이 사용하는 PBKDF 매개변수는 luksDump 명령으로 확인할 수 있다. 이 정보는 보안 강도를 평가하거나 문제를 해결할 때 유용하다. 또한, 모든 키 슬롯을 한 번에 삭제하여 장치를 영구적으로 잠그는 luksErase 명령도 있다. 키 슬롯 관리를 통해 시스템 관리자는 사용자 접근 권한을 유연하게 제어하고, 키를 주기적으로 교체하는 등 보안 정책을 효과적으로 구현할 수 있다.