FHE

완전동형암호(FHE) 체계는 암호화된 상태에서 수행할 수 있는 연산의 종류에 따라 분류될 수 있다. 기본적으로는 덧셈 동형암호와 곱셈 동형암호가 있으며, 이 두 가지 연산을 모두 무제한 지원하는 체계가 완전동형암호이다.

주요 연산 종류는 다음과 같다.

* 덧셈 동형성: 암호문 두 개를 입력받아, 그 합에 해당하는 암호문을 출력할 수 있다. 평문상에서의 덧셈 결과가 암호문 상태에서도 정확히 계산된다.

* 곱셈 동형성: 암호문 두 개를 입력받아, 그 곱에 해당하는 암호문을 출력할 수 있다. 평문상에서의 곱셈 결과가 암호문 상태에서도 정확히 계산된다.

* 스칼라 연산: 하나의 암호문과 하나의 평문(스칼라 값)을 사용하는 연산이다. 이는 암호문과 평문의 곱셈 또는 덧셈으로 구현되며, 계산 효율성이 더 높은 경우가 많다.

이러한 기본 연산을 조합하면 더 복잡한 함수를 평가할 수 있다. 예를 들어, 부울 회로(AND, OR, NOT, XOR 게이트)나 산술 회로(덧셈, 곱셈)를 암호화된 데이터에 대해 평가하는 것이 가능해진다. 일부 FHE 체계는 특정 연산에 최적화되어 있다.

연산의 종류와 깊이는 부트스트래핑 가능 여부와 직접적으로 연관된다. 덧셈과 곱셈만 지원하는 부분 동형암호(PHE)와 달리, FHE는 부트스트래핑을 통해 이러한 연산을 임의의 횟수만큼 반복 수행할 수 있도록 보장한다.

FHE를 구현하는 주요 암호화 체계로는 BFV, CKKS, TFHE가 널리 알려져 있다. 이들은 각각 다른 수학적 기반과 최적화된 연산 유형을 가지며, 특정 응용 분야에 더 적합한 특징을 보인다.

이들 체계는 모두 RLWE 문제와 같은 견고한 수학적 난제에 기반하여 안전성을 보장한다. BFV와 CKKS는 주로 레벨드(leveled) FHE 방식으로, 제한된 깊이의 연산 회로를 효율적으로 평가하는 데 초점을 맞춘다. 반면 TFHE는 부트스트래핑 연산을 매우 빠르게 수행하여 연산 깊이에 제한이 없는 완전 동형암호를 실용적으로 만드는 데 강점을 가진다. 최근의 라이브러리들은 이러한 체계들을 통합하거나 혼합하여 사용자가 문제에 맞는 최적의 방식을 선택할 수 있도록 지원한다.

부트스트래핑은 완전동형암호(FHE) 체계가 제한된 횟수가 아닌 임의의 깊이의 연산을 수행할 수 있도록 만드는 핵심 기술이다. 기본적인 동형암호 연산을 반복하면 암호문에 포함된 노이즈가 누적되어 증가한다. 노이즈가 임계값을 초과하면 암호문을 더 이상 올바르게 복호화할 수 없게 된다. 부트스트래핑은 이 노이즈가 너무 커지기 전에 암호문을 "재암호화"하는 과정으로, 노이즈 수준을 낮추어 추가 연산을 가능하게 한다.

구체적인 부트스트래핑 과정은 암호문을 일시적으로 복호화하는 것처럼 보이지만, 실제 평문 데이터는 노출되지 않는다. 대신, 암호화된 상태에서 암호화 키를 사용하여 암호문을 "재암호화"하는 특수한 연산을 수행한다. 이 연산 자체도 동형성을 가지므로, 노이즈가 감소된 새로운 암호문을 생성하면서도 원래 암호문이 담고 있던 데이터의 동형 연산 결과는 그대로 유지한다.

부트스트래핑은 FHE를 실용적으로 만드는 데 필수적이지만, 가장 계산 비용이 큰 연산 중 하나이다. 초기 FHE 체계는 부트스트래핑에 수십 분이 소요될 정도로 느렸으나, 알고리즘 최적화와 암호화 체계의 발전으로 성능이 크게 개선되었다. 예를 들어, TFHE 체계는 매우 빠른 부트스트래핑을 특징으로 하며, CKKS 체계는 근사 연산에 특화된 효율적인 부트스트래핑 방식을 사용한다.

이 기술의 등장으로 FHE는 이론적으로 가능한 개념에서 복잡한 계산을 실제로 수행할 수 있는 실용적인 암호학 분야로 발전하게 되었다.

동형암호는 데이터를 암호화한 상태에서 직접 연산을 수행할 수 있게 해준다. 이는 민감한 데이터를 처리할 때 데이터 자체를 복호화하지 않고도 원하는 계산을 완료할 수 있음을 의미한다. 예를 들어, 클라우드 서버에 암호화된 의료 기록을 업로드하고, 서버는 암호문 상태에서 통계 분석을 수행한 후, 암호화된 결과만을 데이터 소유자에게 반환한다. 데이터 소유자는 결과를 자신의 비밀키로 복호화하여 최종 값을 얻는다. 이 과정에서 서버는 평문 데이터에 전혀 접근하지 못하므로, 데이터 유출이나 오용 위험이 근본적으로 차단된다.

이러한 보호 메커니즘은 데이터 주권을 강화한다. 데이터의 소유권과 통제권이 사용자에게 명확히 귀속되며, 제3자 서비스 제공자는 데이터 처리 업무를 수행하면서도 데이터 내용을 알 수 없다. 이는 GDPR이나 CCPA와 같은 강화된 데이터 보호 규정이 요구하는 '개인정보 보호를 위한 설계' 및 '기본 설정에서의 개인정보 보호' 원칙을 기술적으로 구현하는 이상적인 수단으로 평가받는다. 특히 데이터가 국경을 넘어 이동하는 크로스 보더 데이터 플로우 상황에서도 데이터의 기밀성을 유지할 수 있다.

데이터 프라이버시 보호의 적용은 여러 분야에서 혁신을 가능하게 한다. 경쟁사 간에 암호화된 데이터를 공유하여 협력적인 기계 학습 모델을 훈련시키거나, 금융 기관이 고객의 암호화된 재무 정보를 사용해 신용평가를 내리는 것이 가능해진다. 또한, 의료 데이터 분석에서 각 병원의 암호화된 환자 데이터를 집계하여 연구를 진행함으로써, 개별 환자의 프라이버시를 침해하지 않고도 대규모 연구를 수행할 수 있다. 이는 데이터 활용과 개인정보 보호라는 상충되는 가치를 동시에 달성하는 길을 열어준다.

완전동형암호는 암호화된 상태에서 연산을 수행할 수 있지만, 이는 일반적인 평문 연산에 비해 상당한 성능 오버헤드를 동반합니다. 연산 속도는 평문 연산보다 수백 배에서 수천 배, 경우에 따라 그 이상으로 느려질 수 있습니다. 이는 암호문에 대한 연산이 복잡한 다항식 연산이나 노이즈 관리를 필요로 하기 때문입니다. 특히 부트스트래핑 연산은 계산 비용이 매우 높아 시스템의 전체 처리량과 지연 시간에 큰 영향을 미치는 주요 병목 현상입니다.

성능 오버헤드는 주로 계산 복잡도와 메모리 사용량에서 나타납니다. FHE 연산은 큰 정수 또는 실수에 대한 연산을 필요로 하며, 이로 인해 연산 시간이 길어지고 대용량의 메모리를 소비합니다. 예를 들어, 암호화된 데이터의 크기(암호문 확장)는 평문 데이터보다 수백 배에서 수천 배 더 커질 수 있어, 데이터 전송 및 저장 비용도 함께 증가합니다.

다음 표는 일반적인 FHE 연산의 상대적인 성능 오버헤드를 평문 연산과 비교하여 보여줍니다.

이러한 오버헤드를 줄이기 위해 다양한 최적화 기법이 연구되고 있습니다. 스케일링을 활용한 근사 연산, 연산 회로의 깊이를 최소화하는 연산 수준 병렬화, 그리고 GPU나 FPGA 같은 특수 하드웨어를 이용한 가속화가 대표적인 접근법입니다. 최근 OpenFHE나 Microsoft SEAL 같은 라이브러리는 이러한 최적화를 통해 실용적인 성능 향상을 꾀하고 있습니다.

FHE의 보안 수준은 일반적으로 암호학적 안전성의 표준인 CCA 공격에 대한 저항성으로 정의되지 않는다. 대부분의 FHE 체계는 CPA 공격 하에서 안전하도록 설계된다[3]. 이는 공격자가 임의의 평문을 암호화할 수 있더라도 암호문으로부터 평문에 대한 정보를 얻을 수 없음을 의미한다.

FHE 체계의 보안은 기반이 되는 수학적 난제의 계산적 어려움에 의존한다. 주요 보안 기반은 다음과 같다.

보안 수준은 일반적으로 암호화 파라미터(예: 다항식 차수, 큐비트 수준)를 조정하여 설정한다. 더 높은 보안 수준을 위해서는 더 큰 파라미터를 사용해야 하며, 이는 계산 오버헤드와 메모리 사용량을 증가시키는 트레이드오프 관계에 있다. 예를 들어, 128비트 보안 수준을 목표로 파라미터를 설정하는 것이 일반적이다.

FHE의 보안 모델은 전통적인 암호화와 차이가 있다. 암호문에 대한 연산이 가능하기 때문에, 공격자가 연산 과정 자체를 통해 정보를 유출할 수 있는 새로운 공격 벡터가 존재할 수 있다. 따라서 FHE 구현은 부채널 공격이나 연산 과정에서 발생할 수 있는 정보 누출에 대한 분석도 필요하다.

클라우드 컴퓨팅 환경에서 FHE는 데이터를 암호화된 상태로 클라우드 서버에 위탁하고, 서버가 해당 데이터에 대한 연산을 수행한 후 암호화된 결과만을 사용자에게 반환하는 보안 아웃소싱을 가능하게 한다. 이는 민감한 데이터를 처리해야 하지만 자체적인 계산 인프라가 부족한 기업이나 기관에 특히 유용하다. 사용자는 자신의 개인키로만 최종 결과를 복호화할 수 있으므로, 클라우드 서비스 제공자조차도 원본 데이터나 중간 계산 결과에 접근할 수 없다.

주요 응용 시나리오로는 암호화된 데이터베이스 질의, 암호화된 상태의 통계 분석, 그리고 SaaS 모델에서의 프라이버시 보호가 있다. 예를 들어, 기업은 암호화된 재무 데이터를 클라우드에 업로드하고, 클라우드에서 암호화된 채로 복잡한 재무 모델링이나 리스크 분석을 실행한 후 결과를 받아볼 수 있다. 이 과정에서 클라우드 공급자는 데이터의 내용을 전혀 알지 못한다.

이러한 방식은 전통적인 암호화 기술이 데이터 저장 시의 보안(휴지 상태 암호화)이나 전송 시의 보안(전송 중 암호화)만을 제공하는 것에 비해, 데이터 사용 시의 보안까지 확장한다. 따라서 데이터 처리 과정 전체에 걸친 종단간 암호화를 실현하는 핵심 기술로 주목받고 있다. 그러나 현재는 연산 속도와 지연 시간이 실용적 배포에 걸림돌로 작용하고 있다.

동형암호 기술은 민감한 의료 데이터를 분석하는 과정에서 데이터의 기밀성을 유지하면서도 유용한 통찰을 얻을 수 있게 해준다. 환자의 개인정보보호와 데이터 활용 사이의 균형을 찾는 데 핵심적인 역할을 한다. 특히 전자건강기록, 유전체 서열 분석 데이터, 의료 영상 데이터 등은 프라이버시 규정이 엄격하지만, 집단적 분석을 통해 질병 연구나 공중보건 정책 수립에 큰 가치를 지닌다.

FHE를 적용하면, 병원이나 연구기관은 암호화된 상태의 데이터를 외부 클라우드 서버나 협력 기관에 전송할 수 있다. 서버는 암호문을 복호화하지 않은 채로 통계 분석, 기계 학습 모델 훈련, 또는 특정 유전자 변이와 질병의 연관성 탐색과 같은 연산을 수행한다. 그 결과 역시 암호화된 채로 데이터 소유자에게 반환되어, 최종 복호화는 오직 권한을 가진 당사자만이 수행할 수 있다. 이 과정은 HIPAA나 GDPR과 같은 데이터 보호 규정을 준수하는 새로운 방식을 제시한다.

구체적인 응용 사례로는 암호화된 상태에서 다수의 의료 기관 데이터를 풀링하여 희귀병 연구 모델을 훈련하거나, 암호화된 유전체 데이터를 기반으로 개인 맞춤형 약물 반응을 예측하는 것이 있다. 또한, 원격 환자 모니터링 장치에서 수집된 실시간 데이터를 안전하게 분석하여 조기 경보를 생성하는 시스템에도 활용될 수 있다.

현실적인 도입에는 여전히 계산 오버헤드와 속도 문제가 걸림돌이지만, 의료 분야의 강력한 프라이버시 수요는 FHE 기술 발전의 주요 동력 중 하나로 작용하고 있다.

금융 서비스 분야는 데이터 프라이버시와 규제 준수 요구가 매우 높아 완전동형암호의 잠재적 적용처로 주목받는다. 특히 신용평가 과정에서는 신용 조회 기관이나 금융사가 개인의 민감한 재무 데이터를 분석해야 하지만, 데이터를 복호화하지 않고도 분석을 수행할 수 있는 FHE는 새로운 패러다임을 제시한다. 이를 통해 데이터 주체의 개인정보가 노출되는 위험을 원천적으로 차단하면서도, 정확한 신용 리스크 평가가 가능해진다.

구체적인 적용 시나리오는 다음과 같다. 고객은 자신의 소득 명세서, 자산 내역, 거래 이력 등의 데이터를 FHE를 사용해 암호화한 후, 신용평가기관이나 대출 심사 시스템에 전송한다. 평가 기관은 암호화된 상태 그대로 사전에 정의된 신용 평가 모델(예: 로지스틱 회귀 모델)을 실행하여 암호화된 신용 점수를 계산한다. 이 결과 점수는 고객만이 복호화할 수 있어, 평가 기관조차도 최종적인 개인별 신용 등급을 알 수 없다. 이 방식은 GDPR이나 개인정보 보호법과 같은 엄격한 규제 환경에서 데이터 활용과 보호의 균형을 찾는 해법이 될 수 있다.

이러한 적용은 아직 계산 오버헤드와 시스템 통합의 복잡성이라는 과제에 직면해 있다. 신용 평가는 실시간에 가까운 처리가 요구되는 경우가 많아, FHE 연산의 속도 지연은 주요 장애물이다. 그러나 하드웨어 가속화 기술의 발전과 더 효율적인 암호화 체계의 등장으로, 금융 분야에서 FHE의 실용화는 점차 가시화될 전망이다.

완전동형암호는 암호화된 상태에서 연산을 수행할 수 있기 때문에, 민감한 데이터를 노출시키지 않고 기계 학습 모델을 훈련하거나 추론에 활용하는 것을 가능하게 한다. 이는 특히 개인정보 보호 규정이 엄격한 분야에서 인공지능 기술의 적용 장벽을 낮추는 핵심 기술로 주목받고 있다.

주요 응용 시나리오는 크게 두 가지로 나눌 수 있다. 첫째는 암호화된 데이터를 사용하여 모델 훈련을 수행하는 것이다. 클라우드 서버는 사용자들로부터 수집된 암호화된 데이터를 받아, 복호화 없이도 경사 하강법과 같은 알고리즘을 적용하여 모델 파라미터를 업데이트할 수 있다[5]. 둘째는 이미 훈련된 모델을 암호화하거나, 암호화된 데이터에 대해 추론을 수행하는 것이다. 예를 들어, 사용자가 암호화된 의료 영상을 클라우드에 업로드하면, 서버는 암호화된 상태로 이미지 분류 모델을 실행해 결과를 암호화된 채로 반환하고, 사용자만이 이를 복호화하여 진단 정보를 확인할 수 있다.

현실적인 도입을 위해서는 여전히 해결해야 할 과제가 많다. 신경망 연산, 특히 비선형 활성화 함수를 동형암호만으로 효율적으로 구현하는 것은 어렵다. 또한, 대규모 모델을 처리할 때 발생하는 막대한 계산 및 메모리 오버헤드로 인해 응답 시간이 길어지는 문제가 있다. 이러한 한계를 극복하기 위해 부분 동형암호와의 혼용, 양자화 기법 적용, 또는 GPU 및 FPGA를 이용한 전용 하드웨어 가속 연구가 활발히 진행되고 있다.

Microsoft SEAL은 마이크로소프트 연구소에서 개발한 오픈 소스 동형암호 라이브러리이다. SEAL은 "Simple Encrypted Arithmetic Library"의 약자로, C++로 작성되었으며 사용자가 암호화된 데이터에 대한 계산을 수행할 수 있도록 한다. 이 라이브러리는 BFV와 CKKS라는 두 가지 주요 동형암호 체계를 구현하고 있다.

BFV 체계는 정수 연산에 최적화되어 있으며, 암호화된 정수에 대한 덧셈과 곱셈을 지원한다. CKKS 체계는 부동소수점 수 또는 복소수에 대한 근사 연산을 가능하게 하여, 특히 기계 학습 모델 추론과 같은 응용 분야에 유용하다. SEAL은 개발자 친화적인 API를 제공하며, 별도의 외부 의존성이 없어 다양한 플랫폼에 쉽게 통합될 수 있다.

이 라이브러리는 학계와 산업계에서 널리 사용되는 표준 도구 중 하나로 자리 잡았다. SEAL을 활용하면 클라우드 서버에서 암호화된 상태로 데이터를 처리하는 애플리케이션을 구축할 수 있으며, 사용자의 민감한 데이터가 서버에 노출되지 않도록 보호한다. 문서화와 예제 코드가 비교적 잘 구성되어 있어 연구자와 개발자들의 접근성을 높이는 데 기여했다.

OpenFHE는 C++ 기반의 오픈 소스 완전동형암호 라이브러리다. 2022년에 공개된 이 라이브러리는 Microsoft SEAL, PALISADE, HElib 등 기존 여러 FHE 라이브러리의 핵심 개발자들이 협력하여 만든 통합 프레임워크를 지향한다. 주요 목표는 모듈화, 확장성, 그리고 다양한 FHE 스킴에 대한 광범위한 지원을 통해 연구와 실제 응용을 촉진하는 것이다.

OpenFHE는 여러 주요 동형암호 스킴을 네이티브로 지원한다. 대표적으로 BFV 스킴, CKKS 스킴, BGV 스킴, FHEW, TFHE 등이 포함된다. 또한, 부트스트래핑 연산을 광범위하게 구현하여 무제한 연산이 가능한 FHE의 핵심 기능을 제공한다. 라이브러리는 사용자가 특정 응용에 맞는 최적의 스킴과 매개변수를 선택할 수 있는 유연성을 강점으로 내세운다.

사용성과 성능 측면에서 OpenFHE는 다양한 기능을 제공한다. 주요 특징은 다음과 같다.

이 라이브러리는 학계와 산업계의 협력을 바탕으로 지속적으로 개발되고 있으며, 활발한 커뮤니티를 통해 문서와 예제를 제공한다. OpenFHE의 등장은 FHE 생태계의 통합과 표준화를 앞당기는 중요한 계기가 되었다.

PALISADE는 C++로 작성된 오픈 소스 동형암호 라이브러리이다. 이 라이브러리는 뉴저지 공과대학교와 다수의 기관이 협력하여 개발하였으며, 다양한 동형암호 체계와 고급 암호학 기능을 통합한 플랫폼을 제공하는 것을 목표로 한다. PALISADE는 학술 연구, 정부 프로젝트, 산업체 프로토타입 개발을 위한 유연한 도구로 설계되었다.

이 라이브러리는 여러 주요 동형암호 체계를 지원한다. 대표적으로 BFV와 CKKS 체계를 포함한 RLWE 기반의 스킴, BGV 체계, 그리고 FHEW 및 TFHE와 같은 부트스트래핑에 효율적인 스킴을 구현하고 있다[7]. 이를 통해 사용자는 애플리케이션의 필요에 따라 정수 연산, 부동소수점 근사 연산, 부울 회로 평가 등 다양한 연산 유형을 선택할 수 있다.

PALISADE의 아키텍처는 모듈화와 확장성을 강조한다. 주요 구성 요소는 다음과 같다.

이 라이텍처 덕분에 연구자들은 새로운 암호학적 구성이나 최적화 기법을 비교적 쉽게 통합하고 실험할 수 있다. PALISADE는 GitHub를 통해 소스 코드가 공개되어 있으며, 활발한 커뮤니티와 문서를 통해 사용을 지원한다.

FHE의 가장 큰 기술적 장애물은 계산 속도와 지연 시간이다. 암호문 상태에서 연산을 수행하려면 평문 연산에 비해 훨씬 더 많은 계산 자원이 필요하다. 특히 부트스트래핑 연산은 연산 중 발생하는 암호화 노이즈를 제거하여 연산 깊이를 무한히 확장할 수 있게 해주지만, 이 과정은 매우 무겁고 시간이 많이 소요된다. 이로 인해 실시간 응용 프로그램에 FHE를 적용하는 것은 상당한 도전 과제로 남아 있다.

성능은 사용하는 암호화 체계와 연산의 종류, 그리고 하드웨어 환경에 크게 의존한다. 예를 들어, CKKS 체계는 부동소수점 근사 연산에 최적화되어 기계 학습 추론에 주로 사용되지만, BFV나 TFHE 체계에 비해 부트스트래핑 속도가 상대적으로 느릴 수 있다. 일반적인 CPU 환경에서 단순한 암호화 덧셈이나 곱셈 한 번은 밀리초 단위로 수행될 수 있지만, 복잡한 연산이나 부트스트래핑을 포함하는 연산 파이프라인은 수 초에서 수 분까지 걸릴 수 있다.

성능 개선을 위한 연구는 알고리즘 최적화와 하드웨어 가속화 두 축으로 진행된다. 알고리즘 측면에서는 더 효율적인 키 스위칭 기법이나 노이즈 관리 전략이 개발되고 있다. 하드웨어 측면에서는 GPU, FPGA, 심지어 ASIC과 같은 전용 가속기를 활용하여 병렬 처리 능력을 극대화하는 접근법이 활발히 연구된다. 예를 들어, 일부 연구에서는 GPU 클러스터를 이용해 부트스트래핑 시간을 수백 배 단축하는 결과를 보여주었다.

아래 표는 다양한 FHE 연산의 상대적인 수행 시간을 개념적으로 비교한 것이다. 실제 시간은 파라미터 설정과 구현에 따라 크게 달라질 수 있다.

결론적으로, FHE의 계산 속도 문제는 실용화를 가로막는 핵심 장벽이지만, 지속적인 알고리즘 개선과 하드웨어 발전을 통해 점차 극복되어 가고 있다. 특히 클라우드 환경에서 배치 처리 형태의 분석 작업이나 실시간성이 매우 높지 않은 응용 분야부터 적용 범위가 확대될 것으로 예상된다.

FHE는 암호문 상태에서 연산을 수행하기 위해 평문 데이터를 크게 확장하는 특성을 가집니다. 이로 인해 암호화된 데이터의 크기는 원본 평문 데이터에 비해 수백 배에서 수천 배까지 증가할 수 있습니다. 예를 들어, 하나의 정수를 암호화하면 메가바이트(MB) 단위의 암호문이 생성되는 경우가 흔합니다. 이러한 데이터 팽창은 처리 및 저장에 필요한 메모리 사용량을 급격히 증가시키는 주요 요인입니다.

암호문의 크기는 사용하는 암호화 체계와 보안 매개변수에 크게 의존합니다. CKKS 체계는 근사 연산에 최적화되어 상대적으로 작은 암호문 크기를 목표로 하지만, 여전히 상당한 오버헤드가 존재합니다. 반면, TFHE와 같은 체계는 부울 회로 연산에 특화되어 있으며, 비트 단위 암호화로 인해 다른 체계와는 다른 특성의 메모리 사용 패턴을 보입니다. 주요 라이브러리별 암호문 크기 특성은 다음과 같이 비교할 수 있습니다.

실제 응용 프로그램에서는 단일 데이터가 아닌 대규모 데이터셋이나 복잡한 모델(예: 기계 학습 모델)을 암호화 상태로 처리해야 합니다. 이는 모든 중간 계산 결과도 암호문 형태로 유지되어야 함을 의미하며, 메모리 사용량은 누적됩니다. 특히 부트스트래핑 연산은 암호문을 재암호화하여 연산 깊이를 리프레시하는 과정으로, 이 작업 자체가 많은 메모리를 소모합니다. 따라서 대용량 메모리(예: 수백 GB 이상의 RAM)를 갖춘 서버 환경이 FHE 연산을 실행하기 위한 실질적인 요구사항이 되곤 합니다. 하드웨어 가속화와 알고리즘 최적화는 이러한 메모리 오버헤드를 완화하기 위한 지속적인 연구 주제입니다.

완전동형암호의 프로그래밍 모델은 기존의 일반 텍스트 연산과 근본적으로 다르며, 이로 인해 상당한 복잡성이 발생합니다. 개발자는 암호문에 대한 연산이 특정 제약 하에서만 가능하다는 점을 이해해야 합니다. 예를 들어, BFV나 CKKS와 같은 일부 스킴은 주로 덧셈과 곱셈과 같은 기본 연산을 지원하며, 이 연산들은 암호문의 노이즈를 증가시킵니다. 복잡한 함수를 구현하려면 이러한 기본 연산을 조합해야 하는데, 이 과정에서 노이즈가 임계값을 초과하면 결과를 올바르게 복호화할 수 없게 됩니다. 따라서 프로그래머는 연산의 깊이와 순서를 신중하게 설계하여 노이즈 성장을 관리해야 합니다.

이러한 복잡성은 고수준의 추상화 계층과 전용 도구의 필요성을 촉진시켰습니다. Microsoft SEAL이나 OpenFHE와 같은 라이브러리는 암호학적 세부 사항을 감추려고 노력하지만, 여전히 사용자는 내부 작동 원리에 대한 기본적인 이해가 필요합니다. 예를 들어, 부트스트래핑 작업을 언제 수행해야 하는지, 또는 CKKS 스킴에서 허용되는 근사 계산의 정밀도를 어떻게 설정해야 하는지 결정해야 합니다. 이러한 결정들은 애플리케이션의 정확성, 성능, 보안에 직접적인 영향을 미칩니다.

프로그래밍 모델의 복잡성을 완화하기 위한 접근법은 크게 두 가지로 나뉩니다. 하나는 동형암호 연산을 위한 새로운 프로그래밍 언어나 도메인 특화 언어(DSL)를 설계하는 것이고, 다른 하나는 기존의 인기 언어에 통합된 컴파일러 프레임워크를 제공하는 것입니다. 후자의 예로, 특정 라이브러리를 백엔드로 사용하여 일반 텍스트 코드를 동형암호 연산이 포함된 코드로 변환하는 컴파일러가 연구되고 있습니다. 이러한 도구들은 개발자가 낮은 수준의 암호학적 매개변수 조정보다는 알고리즘 로직 자체에 더 집중할 수 있도록 돕는 것을 목표로 합니다.

동형암호와 동적암호는 모두 암호화된 데이터에 대한 연산을 가능하게 하지만, 그 접근 방식과 보장하는 보안 속성에서 근본적인 차이를 보인다.

동형암호는 암호문에 특정 연산을 가하면, 그 결과를 복호화했을 때 평문에 동일한 연산을 가한 결과와 정확히 일치하는 암호 체계를 의미한다. 완전 동형암호는 덧셈과 곱셈을 무제한으로 수행할 수 있는 반면, 부분 동형암호는 둘 중 하나만 지원하거나 제한된 횟수만의 곱셈을 허용한다. 이 기술의 핵심 목표는 데이터의 기밀성을 유지한 채로 제3자에게 계산을 위탁하는 것이다.

반면, 동적암호는 암호문에 연산을 가할 수 있는 권한을 부여하는 암호 체계다. 암호화된 데이터에 특정 함수를 평가할 수 있는 '평가 키'를 생성하여 제3자에게 제공한다. 제3자는 이 키를 사용해 암호문에 연산을 적용할 수 있지만, 그 외의 정보는 얻을 수 없다. 동적암호는 주로 함수 기밀성을 보장하며, 사용자가 허용한 특정 계산만 수행되도록 제어할 수 있다는 점이 특징이다.

두 기술의 주요 차이점은 다음과 같이 정리할 수 있다.

요약하면, 동형암호는 '암호화된 상태에서의 계산' 자체에 초점을 맞춘다면, 동적암호는 '암호화된 데이터로부터 어떤 정보를 누가 얻을 수 있는지'에 대한 정교한 접근 제어에 초점을 맞춘다. 두 기술은 상호 보완적일 수 있으며, 특정 응용 사례에 따라 적합한 기술이 선택된다.

부분 동형암호(PHE)는 암호화된 데이터에 대해 특정 유형의 연산만 무제한으로 수행할 수 있도록 허용하는 암호화 체계이다. 이는 완전 동형암호(FHE)가 모든 연산을 지원하는 것과 대조적이다. PHE는 주로 곱셈 동형암호 또는 덧셈 동형암호로 구분되며, 각각 암호문 간의 곱셈 또는 덧셈 연산 중 하나만을 무제한 지원한다. 예를 들어, RSA 암호는 곱셈에 대해 동형 성질을 가지는 대표적인 PHE의 초기 사례이다[10].

FHE와 PHE의 가장 근본적인 차이는 지원하는 연산의 범위와 기능성에 있다. PHE는 제한된 연산 집합에 최적화되어 있어, 해당 연산에 대해 FHE보다 훨씬 높은 효율성과 빠른 속도를 제공한다. 반면, FHE는 부트스트래핑이라는 기술을 통해 임의의 회로나 프로그램을 평가할 수 있어 범용 컴퓨팅이 가능하지만, 이로 인해 상당한 계산 오버헤드가 발생한다. 따라서 특정 응용 분야에서는 PHE가 더 실용적인 선택이 될 수 있다.

아래 표는 FHE와 PHE의 주요 특성을 비교한 것이다.

결론적으로, PHE는 효율성이 최우선이고 계산 로직이 단순한 응용 분야에 적합하다. 반면, FHE는 복잡하고 자유도 높은 계산이 필요하지만 데이터 프라이버시를 반드시 보호해야 하는 시나리오에서 필수적인 기술이다. 두 기술은 상호 배타적이지 않으며, 시스템 설계 시 요구사항에 따라 선택되거나 결합되어 사용된다.

FHE와 안전 다자간 계산은 둘 다 데이터의 프라이버시를 보호하면서 연산을 수행할 수 있게 해주는 암호학 기술이다. 그러나 그 접근 방식과 기본 가정, 그리고 적합한 사용 사례에는 상당한 차이가 존재한다.

FHE는 단일 참여자가 자신의 데이터를 암호화한 후, 제3자(예: 클라우드 서버)에게 암호화된 상태 그대로 연산을 위탁하는 모델에 적합하다. 서버는 암호문에 대한 연산 결과를 생성하지만, 데이터의 평문 내용을 알 수 없다. 반면, MPC는 일반적으로 두 명 이상의 참여자가 각자 자신의 비밀 입력값을 가지고 협력하여 어떤 함수를 계산하고, 그 결과만을 공유하는 프로토콜이다. 이 과정에서 각 참여자는 다른 참여자의 입력값을 알지 못한다. MPC는 신뢰할 수 없는 제3자 대신, 참여자들 간의 분산된 계산을 통해 신뢰 문제를 해결한다.

두 기술의 주요 차이점은 다음과 같이 표로 정리할 수 있다.

적용 측면에서 FHE는 한 곳에 집중된 암호화 데이터에 대한 복잡한 분석(예: 암호화된 데이터베이스 쿼리, 프라이버시 보존 기계 학습)에 강점을 보인다. MPC는 여러 기관이 각자의 비밀 데이터를 공개하지 않고 공동 분석을 필요로 할 때(예: 교차 기관 사기 탐지, 합의된 금액 이상의 입찰가 계산) 더 적합하다. 현실에서는 두 기술을 결합하는 하이브리드 접근법도 연구되고 있으며, 시나리오에 따라 각 기술의 장점을 활용한다.

FHE 연산은 일반적인 평문 연산에 비해 매우 큰 계산 부하와 메모리 오버헤드를 발생시킨니다. 이는 실용적인 적용을 위한 주요 장애물로 작용해 왔습니다. 이러한 성능 문제를 극복하기 위해 하드웨어 가속화는 핵심적인 해결책으로 주목받고 있습니다. 전용 하드웨어를 설계함으로써 암호화된 데이터에 대한 연산 속도를 획기적으로 향상시키고 전력 소모를 줄일 수 있습니다.

가속화를 위한 주요 접근법은 FPGA와 ASIC을 활용하는 것입니다. FPGA는 프로그래밍 가능한 논리 회로로, FHE 연산에 최적화된 회로를 구성하여 소프트웨어만으로 실행하는 것보다 수백 배 빠른 성능을 보여줍니다. ASIC은 특정 용도에 맞춰 설계된 집적 회로로, 한 번 설계되면 변경이 어렵지만 최고 수준의 성능과 효율성을 제공합니다. 여러 연구 기관과 기업들은 다항식 곱셈이나 부트스트래핑과 같은 FHE의 핵심 연산을 가속하는 전용 칩을 개발 중입니다.

최근에는 범용 GPU와 AI 가속기를 활용하는 연구도 활발합니다. FHE 연산, 특히 CKKS 체계의 연산은 대규모 벡터 및 행렬 연산과 유사한 구조를 가지기 때문에, 이러한 병렬 처리 하드웨어에 적합합니다. 예를 들어, NVIDIA의 GPU와 CUDA 플랫폼을 위한 FHE 라이브러리 최적화 작업이 진행되고 있습니다.

하드웨어 가속화의 효과는 다음 표와 같이 요약할 수 있습니다.

이러한 하드웨어 발전은 FHE가 클라우드 환경이나 에지 디바이스에서 실시간에 가까운 처리 속도를 달성하는 데 기여할 것으로 예상됩니다. 표준화 기구와 산업 컨소시엄은 FHE 가속을 위한 인터페이스와 프로토콜을 정의하는 작업을 진행 중입니다.

FHE 기술의 실용적 확산을 위해서는 알고리즘, 보안 매개변수, 구현 방식에 대한 표준화 작업이 필수적이다. 국제 표준화 기구인 ISO/IEC JTC 1/SC 27와 NIST가 동형암호 표준화를 위한 연구 및 논의를 진행 중이다. 특히 NIST는 2020년대 후반부터 포스트 양자 암호 표준화 이후의 주요 과제로 동형암호를 검토하고 있으며, 표준 후보 제안을 위한 공개 프로세스를 준비하고 있다[11].

규제 측면에서는 GDPR 및 각국의 데이터 프라이버시 법규가 FHE의 채용을 촉진하는 요인으로 작용한다. 암호화된 상태에서 데이터를 처리할 수 있는 FHE는 데이터 국경 이전 규제나 제3자 처리 제한을 완화할 수 있는 잠재력을 가진다. 그러나 FHE 구현체의 안전성 검증, 성능 기준, 그리고 암호화된 데이터에 적용되는 법적 효력에 대한 명확한 규제 프레임워크는 아직 부재한 상태이다. 주요 국가들은 산학연 협력을 통해 FHE 기술 평가 및 규제 샌드박스 구축을 모색하고 있다.

표준화와 규제는 FHE 생태계의 상호운용성과 신뢰성을 보장하는 기반이 된다. 안전한 파라미터 세트에 대한 합의, 성능 벤치마크 표준, 그리고 규제 당국의 명확한 입장은 금융, 의료 등 규제가 엄격한 분야에서 FHE의 본격적인 도입을 앞당기는 데 결정적 역할을 할 것이다.

FHE 기술의 성숙과 함께, 금융, 의료, 클라우드 서비스 등 다양한 산업 분야에서의 실제 적용 사례가 점차 확대되고 있다. 초기에는 연구와 개념 검증에 머물렀으나, 최근에는 실용적인 성능 개선과 함께 상업적 파이럿 프로젝트와 제품 통합이 활발히 진행되고 있다.

주요 산업별 적용 확대 동향은 다음과 같은 표로 정리할 수 있다.

이러한 확대를 가능하게 하는 요인으로는 OpenFHE, Microsoft SEAL과 같은 오픈소스 라이브러리의 발전과 접근성 향상, 그리고 GPU 및 FPGA를 이용한 하드웨어 가속화 연구가 꼽힌다. 또한, 데이터 프라이버시 규제가 강화되는 글로벌 추세가 FHE 도입을 촉진하는 중요한 환경적 요인으로 작용하고 있다. 그러나 여전히 높은 계산 비용과 전문 지식 필요성은 광범위한 산업 적용을 위한 주요 장애물로 남아 있으며, 이를 해결하기 위한 표준화 노력과 개발자 친화적인 도구 생태계 구축이 지속적으로 요구된다.