클라우드 환경에서 데이터와 AI를 지켜줄 동형암호 – 잠재력, 연구 동향

2023-11-02

클라우드와 빅데이터 기반의 AI 기술 수요가 증가하면서, 더 완벽한 보안 기술에 대한 요구도 높아지고 있습니다. 예를 들어, 기업이 AI를 활용해 고객 맞춤형 서비스를 제공할 때 개인정보가 노출될 가능성이 크기 때문입니다. 최근 제조 업계도 클라우드 환경에서 데이터를 수집하고 산업용AI로 이를 분석, 예측하려는 시도를 많이 하고 있습니다. 그에 따라 데이터 유출에 대한 우려가 높아지는 추세입니다.

다행히 보안 기술도 급격하게 발전하고 있습니다. 기존 암호화 기술은 단순히 데이터를 저장하고 전송할 때 데이터를 보호하는 데 초점을 맞췄는데요. 최근에는 데이터를 계산하는 과정까지 보호하는 기술이 등장하고 있습니다. 이번 글에서 소개할 차세대 암호 기술은 바로 ‘동형암호’입니다.

동형암호란?

(1) 개념

동형암호는 데이터를 암호화 한 상태에서 연산까지 할 수 있는 암호기술입니다. 암호화 한 상태에서 계산한 값과 암호화 하지 않고 계산한 값이 똑같아서 ‘동형’이라는 이름이 붙었습니다.

RSA, ECC, AES 같은 기존 암호 시스템은 금고에 보관한 귀중품을 사용할 때마다 열쇠로 열어 꺼내야 했습니다(복호화 과정). 데이터를 활용하기 위해 연산을 시작하려고 하면 보안이 취약해지는 것이죠.

기존 암호화 연산은 클라우드에서 복호화를 한 뒤에 연산을 수행하므로, 제3자에게 복호화 키와 평문이 노출될 위험이 존재한다. – 아하랩스 제공

반면 동형암호는 금고를 열지 않고도 활용할 수 있다는 점이 핵심입니다. 제3자가 원본 데이터를 볼 필요 없이 클라우드에서 암호화된 데이터를 처리해서 그 결과를 데이터 소유자에게 반환할 수 있습니다.[1]

동형암호 기술은 1970년대 수학자들이 먼저 개념화한 뒤 실제로는 2009년 스탠포드 대학과 IBM의 과학자 크레이그 젠트리(Craig Gentry)가 개발했는데, 그는 당시 이 기술을 “독성 화학 물질을 취급하는 데 사용되는 장갑이 들어 있는 상자와 같다”고 비유하며 “모든 조작이 상자 안에서 이뤄지므로 화학 물질은 외부 세계에 절대 노출되지 않는다”고 설명했습니다.[2]

구체적인 활용 과정은 다음과 같습니다. 데이터 소유자가 동형암호화 된 쿼리를 전달합니다. 데이터 분석가는 동형암호 연산을 통해 데이터 분석 결과에 대한 암호문을 산출합니다. 그리고 데이터 소유자에게 전달합니다.

이 때 데이터 분석가는 산출된 결과를 알 수 없습니다. 비밀키를 가지고 있는 데이터 소유자만 이를 복호화 할 수 있습니다. 따라서 데이터 소유자는 자신의 데이터를 노출시키지 않고 분석 결과를 얻는 것이 가능합니다.[3]

동형암호 기술을 활용하면 제3자가 원본 데이터를 볼 필요 없이 클라우드에서 데이터를 연산한 뒤, 그 결과를 데이터 소유자에게 보낼 수 있다. – 아하랩스 제공

(2) 동형암호의 안정성

동형암호는 얼마나 안전할까요? 현재 연구되고 있는 동형암호 기술은 대부분 격자(lattice) 암호 알고리즘에 기반하고 있습니다. 격자 암호 알고리즘은 LWE(Learning with Errors) 등의 수학적 난제를 기반으로 설계됩니다. 양자컴퓨터로도 풀기 어려운 난제이기 때문에, 암호화된 데이터를 해독하는 것은 불가능합니다. 이 때문에 동형암호는 양자컴퓨터가 등장한 이후에도 사용 가능한 차세대 암호로 여겨지고 있습니다.

(3) 동형암호의 종류

동형암호는 크게 3가지로 구분됩니다.

– 부분동형암호(PHE): 주어진 데이터 집합에 대해 무제한의 시간 동안 한 가지 유형의 연산(덧셈 혹은 곱셈)만 허용합니다.

– 유한동형암호(SHE): 주어진 데이터 집합에 대해 덧셈과 곱셈을 몇 차례만 허용합니다. 연산이 반복될 경우 데이터 길이가 기하급수적으로 증가하기 때문입니다.

– 완전동형암호(FHE): 주어진 데이터 집합에 대해 횟수 제한 없이 다양한 유형의 연산을 허용합니다. 부트스트래핑(Bootstrapping) 기능을 지원하여 연산이 반복되면서 생기는 노이즈를 제거하기 때문입니다.

스마트팩토리 등에서 실제 응용을 고려할 때 연산이 너무 복잡하지 않은 경우라면 유한동형암호도 좋은 선택이 될 수 있습니다. 완전동형암호가 개념적으로는 가장 우월하지만 부트스트래핑 시간이 오래 걸려서 연산 속도나 컴퓨팅 리소스 사용 측면의 효율성이 떨어지기 때문입니다. 기술 실증(PoC)을 통해 구체적인 케이스 별로 대응하는 것이 중요합니다.

완전동형암호의 구현

(1) 완전동형암호 스킴

현재 활발하게 연구되고 있는 동형암호는 주로 완전동형암호로, 세 가지 스킴이 가장 널리 쓰입니다.

가장 먼저 2012년 *유한체 위에서의 *모듈러 연산을 지원하는 BGV, FV 스킴이 나왔습니다. 수백~수천 개의 숫자를 하나의 암호문에 저장할 수 있는 패킹 기술도 이때 함께 개발됐습니다. 2016년 개발된 TFHE 스킴은 단일 비트 연산을 지원합니다.

2017년에 발표된 CKKS 스킴은 비로소 실수(복소수) 연산을 지원하기 시작했습니다. 연산을 보다 다루기 쉬운 근사식으로 바꿔서 연산(*다항식 근사)하기 때문에 속도가 빠르고, 데이터 패킹으로 한 번에 처리할 수 있는 데이터 양이 훨씬 많아졌다는 장점이 있습니다. 이 때문에 기계학습 등 실수연산을 포함하는 빅데이터 분석에 가장 적합하다는 평가를 받고 있습니다.[4]

유한체 : 유한개 원소만을 갖고 그 안에서 대수적 구조를 형성하는 체입니다. 즉, 유한체 집합 내 원소의 연산(덧셈, 곱셈 등) 결과가 다시 그 집합 내에 있게 됩니다.
모듈러 연산 : 정수의 합과 곱을 어떤 주어진 수의 나머지를 이용하여 정의하는 방법입니다.
(ex) [13÷5=2..3] → [13mod5=3]
다항식 근사 : 임의의 함수를 다루기 쉬운 다항식(Polynomial)으로 표현하는 방법입니다. 함수의 접선을 구하는 것을 선형 근사(linear approximation)의 예로 볼 수 있습니다.

(2) 오픈소스 라이브러리 현황[5]

국내외 여러 기관과 기업들이 완전동형암호 스킴을 구현하는 오픈소스 라이브러리를 개발하고 있습니다.

– HELib: 2013년 IBM이 개발한 최초 동형암호 라이브러리로 CKKS, BGV 스킴과 부트스트래핑을 지원합니다.

– Microsoft SEAL: BFV 및 CKKS 스킴을 지원하는 마이크로소프트의 오픈소스 라이브러리입니다. 정수의 덧셈과 곱셈을 할 수 있고, 부트스트래핑은 지원하지 않습니다.

– OpenFHE: BGV, BFV, CKKS, FHEW, TFHE 스킴을 포함한 모든 주요 FHE 스킴을 지원하는 라이브러리입니다. FHE 개발자 컨소시엄의 NumFocus와 제휴하여 널리 사용되고 있습니다.

– PALISADE: 미국 방위고등연구계획국(DARPA) 자금을 지원 받는 방위 계약 업체 컨소시엄에서 널리 사용되는 오픈소스 라이브러리입니다. BGV, BFV, CKKS, TFHE, FHEW와 같은 여러 스킴을 지원합니다.

– NFLlib: 고성능 동형암호화를 개발하기 위한 유럽 ‘H2020’ HEAT 프로젝트의 파생 결과로 나온 라이브러리입니다.

– cuHE: GPUPU를 통한 동형암호 가속화 연구를 진행하고 있는 라이브러리입니다.

– Concrete: TFHE 스킴의 사용자 정의 변형을 지원하는 라이브러리입니다.

– EVA: CKKS 스킴용 컴파일러 및 최적화 프로그램(Microsoft SEAL을 대상으로 함)입니다.

– HEaaN: 고정 소수점 근사 산술을 기본으로 지원하는 CKKS 스킴 구현 라이브러리입니다. 2017년 서울대 천정희 교수팀이 개발했으며, 덧셈과 곱셈 외에 반올림 연산도 빠르게 처리 가능합니다. 동형암호 전문 스타트업 크립토랩에서 고도화하고 있으며, 현재 세계 최고의 성능을 보이고 있습니다.

동형암호의 잠재력

(1) 데이터 활용 범위 확장

동형암호는 기존 보안 체계를 더 안전하게 만들어준다는 장점도 있지만, 사실 그보다 훨씬 더 큰 잠재력을 지니고 있습니다. 기존에는 보안 규제 때문에 벽장 속에 잠자고만 있던 수많은 데이터를 앞으로는 데이터 분석이나 AI에 활용해 새로운 가치를 창출할 수 있다는 점입니다.

이런 혜택을 받을 수 있는 대표적인 분야 중 하나가 의료계입니다. 예를 들어, 치료 중 발견되는 환자의 병명과 병력, 그리고 개인 맞춤형 치료를 위한 DNA 정보 등은 매우 민감한 개인정보입니다. 이런 데이터를 보호하기 위한 각종 법과 규제가 존재하며, 의료 기술 발전에 데이터를 활용할 수 있는 범위가 매우 제한적입니다.

향후에는 동형암호 기술을 활용해 복수의 의료기관이 환자 개인정보를 보호하면서 협업에 활용할 수 있을 것으로 기대됩니다.

(2) AI의 정확도 향상

동형암호를 적용하면 기존에 비해 데이터 분석이나 AI의 정확도를 높일 수 있게 됩니다.

예를 들어, 머신러닝은 방대한 데이터를 분석해 미래를 예측하고 문제를 해결하는 기술입니다. 그러나 개인정보보호가 적용되는 환경에서는 머신러닝이 학습에 활용하는 데이터의 정확성이 문제가 됩니다. 비식별화 처리가 된 데이터는 개인정보와의 결합도가 낮아 데이터의 해상도, 즉 가치가 떨어지기 때문입니다.

만약 동형암호를 적용하면 순수 데이터를 그대로 암호화하고, 암호화된 데이터로 AI 모델을 학습시켜서 관련 패턴을 더욱 정확히 찾아서 활용할 수 있습니다.

활용 예시

동형암호는 스토리지 아웃소싱, 헬스케어, DNA 분석, 디지털 트윈, 기계학습, 양자내성암호, 금융 협업 등 보안이 필요한 어떤 분야에서든지 활용이 가능합니다.[2]

(1) IT 기업

마이크로소프트는 2021년부터 에지(Edge) 브라우저 사용자를 대상으로 동형암호 기술 기반 비밀번호 유출 조회 서비스를 제공하고 있습니다.[6] 이 서비스는 Microsoft SEAL 라이브러리를 기반으로 합니다.

비밀번호가 에지 브라우저에 저장되면 브라우저는 서버에 접속해 비밀번호가 유출됐는지 주기적으로 확인합니다. 그런데 이때 에지 서버는 클라이언트의 사용자 이름이나 비밀번호에 대한 정보를 절대 학습하지 않습니다. 서비스를 제공하는 마이크로소프트도 비밀번호 유출 여부(연산 값)를 확인할 수 없습니다. 오직 사용자만 데이터를 확인할 수 있습니다.

(2) 금융 기업

금융분야에서는 개인정보를 보호해야 하면서도 더욱 정확한 분석 결과가 필요한 카드, 보험사 등에서 관심을 보이고 있습니다. 이상거래 탐지나 개인 신용 평가 등 다양한 활용 사례를 모색하고 있는 추세입니다.[7]

실제로 국내에서 2022년 6월, 크립토랩이 신한금융그룹과 동형암호 기술 검증을 진행했습니다.[8] 크립토랩은 신한금융그룹 내 계열사가 보유한 ‘보험 계약 고객 데이터’와 ‘대출 고객 데이터’를 동형암호화된 상태에서 결합·분석했습니다. 또 신한금융그룹이 활용하는 머신러닝(랜덤 포레스트 모형과 엑스지부스트 모형)을 동형암호로 구현하고 암호화된 데이터를 통해 예측값을 산출한 결과, 기존 예측값과 99.99% 확률로 일치하는 결과를 얻었습니다.

(3) 제조업 활용 시나리오(논문)

이번에는 제조업에서 동형암호를 어떻게 활용할 수 있는지 논문을 통해 시나리오를 살펴보겠습니다.[9] (플라스틱 압출 공정 예지보전에서의 동형암호 활용 시나리오)

AI 기술을 활용한 예지보전은 제품 품질을 보장하고 전반적인 장비의 효율성을 향상시킬 수 있는 좋은 전략입니다. 그러나 이런 시스템을 개발하는 데에는 많은 시간과 비용, 고도의 컴퓨팅 성능이 필요합니다. 데이터 분석가와 AI 전문가가 내부에 없는 기업도 많죠. 이 경우, 외부의 예지보전 솔루션을 클라우드 환경에서 사용하는 것을 고려해볼 수 있습니다. 시스템을 개발하는 데 비용과 시간이 많이 소요되지 않고, 클라우드 공급자가 즉시 사용 가능한 솔루션을 제공하므로 회사 내에 전문 지식을 구축할 필요가 없다는 장점이 있습니다.

이런 여러 장점에도 불구하고 많은 기업들이 도입을 꺼리는 실정입니다. 내부 데이터가 클라우드로 올라갈 때 보안이 취약해질 것을 염려하는 것인데요. 하지만 앞으로는 동형암호를 활용해 보다 안심하고 클라우드 AI 예지보전 서비스를 활용할 수 있을 것으로 기대됩니다.

압출 공정의 예측 유지 관리를 위한 분류 및 클라우드 아키텍처. – 논문을 참고하여 아하랩스 재구성

먼저 압출 공정 중 공정 온도, 원자재 흐름, 코일 속도 등 다양한 상태 데이터가 기록됩니다. 모든 데이터는 기밀이므로 온프레미스에서 동형암호화 됩니다. 그런 다음 예지보전 AI 모델이 포함된 클라우드로 전송됩니다. 클라우드 상에서 암호화 된 상태로 학습되고 계산됩니다. 모델 실행 결과는 기계의 유지 관리 시간에 대한 구체적인 정보가 포함된 보고서입니다. 결과도 암호화되어 있기 때문에 클라우드 서비스 공급자는 내용을 확인할 수 없습니다. 이 보고서가 기업으로 전송되고, 기업은 비밀키로 이를 복호화 하여 공정을 유지 관리하기 위한 인사이트를 얻을 수 있습니다.

요컨대, 동형암호를 활용하여 리소스 집약적인 프로세스를 클라우드에 위임함과 동시에 데이터 수명주기 전반에 걸쳐 보안을 보장할 수 있습니다. 동형암호는 두 가지 모두를 가능하게 해줍니다.

아하랩스가 제조 전 공정의 데이터를 한번에 수집하는 방법을 알아보세요

(1) 연산 속도 개선[4]

첫 번째가 연산 속도입니다. 아직까지 동형암호 기술은 기존 기술에 비해 속도가 느리다는 단점이 있습니다. 연산을 n차 다항식으로 매핑하고 노이즈 값을 더해서 암호문을 생성하는데, 노이즈가 너무 길어지는 것을 막기 위한 부가 연산까지 추가되면서 연산량이 대폭 늘어나기 때문입니다.[10]

수천 개의 실수를 저장하고 있는 BGV나 CKKS 스킴의 곱셈 연산은 10ms~0.1s의 성능을 보여주고 있습니다(구체적인 상황에 따라 달라질 수 있음). TFHE 스킴의 부트스트래핑은 약 13ms가 소요됩니다(전부 CPU 상에서 얻은 결과).[13] 동형암호화 하지 않았을 때에 비해 수십~수백 배까지 차이가 나는 상황이죠. 이런 속도 성능이 적절한지 여부는 사실 동형암호를 적용하는 상황에 따라 다를 수 있습니다. 예를 들어, 은행 데이터를 사용해 고객의 신용도를 판단하는 데는 충분한 성능이지만, 마이크로 초 단위가 중요한 자율주행차에 적용하거나 연산이 아주 복잡한 머신러닝에 적용하기에는 한계가 있습니다.

학계 및 산업계에서는 이를 극복하기 위해 다양한 연구를 진행하고 있습니다. 예를 들어 소프트웨어 측면에서는 1000개 이상의 데이터를 동시에 암호화할 수 있는 병렬처리 기술을 적용하는 연구가 진행되고 있습니다.

(2) 하드웨어 개발

동형암호를 원활하게 구현할 수 있는 하드웨어 기반도 활발히 연구되는 추세입니다.

미국 방위고등연구계획국(DARPA)은 ‘가상환경 데이터 보호 프로그램(DPRIVE)’이라는 프로젝트를 통해 마이크로소프트, 인텔과 업무협약을 체결하고 하드웨어 가속기를 개발하고 있습니다. 2025년까지 암호화 하지 않았을 때 데이터가 처리되는 속도와 비교해 10배 성능을 달성하는 것이 최종 목표입니다.[1]

이 프로젝트에서 인텔과 마이크로소프트는 완전동형암호화와 관련된 성능 오버헤드를 줄이기 위해 AI 개발자를 위한 주문형 집적회로(ASIC) 가속기를 설계하고 있습니다.[11] 2022년 출시한 암호화폐 채굴 가속기를 만든 경험으로 개발에 나선 건데요. 앞서 ASIC 가속기 1세대를 개발해 많은 것을 학습했고 이제 2세대 기술을 다루고 있습니다. 인텔은 이와 관련한 개발자용 암호 기반 소프트웨어 도구 시험판을 올해 안에 선보일 예정이라고 밝혔습니다.

(3) 표준화

상용화까지 또 하나의 필수 관문은 바로 표준화입니다. 동형암호는 산업계에서 자발적으로 표준화의 필요성을 인식해 컨소시엄 형태의 표준화가 진행되고 있습니다. 2020년부터는 공적표준화 기구도 표준화 작업을 시작했습니다.

– Homomorphic Encryption Standardization: 동형암호의 보안, API, 애플리케이션 등 세 가지 백서를 기반으로 동형암호에 대한 표준을 개발하고 있는 국제동형암호표준화 컨소시엄입니다. 2018년 미국 MIT에서 열린 두 번째 워크숍에서 동형암호화의 매개변수 선택을 위한 표준 초안이 처음으로 승인됐습니다.[12] 매년 관련 회의가 열리고 있으며, 2023년 3월 서울대학교에서 6차 회의가 열렸습니다.[13]

– ITU-T SG17: 국제전기통신연합 전기통신표준화 부문(ITU-T) 정보보호연구반(SG17)에서는 동형암호를 적용할 수 있는 분야 중 하나로 기계학습을 선정했습니다. 동형암호 기술을 사용해 데이터를 분석할 때 개인정보를 보호하기 위한 처리 구조, 절차, 특성에 대한 지침을 개발하는 중입니다.[14]

– ISO/IEC JTC 1/SC27: 기존에 제작된 ISO-IEC 18033-6, Encryption algorithms – Part 6: Homomorphic encryption 표준을 2019년 개정했습니다. 이 표준은 부분동형암호를 위한 지수 ElGamal 암호(곱셈)와 Paillier 암호(덧셈), 두 가지 메커니즘으로 구성되어 있습니다. 2024년 완전동형암호 표준화 발간을 목표로 국제표준안(워킹 드래프트)이 수립, 회람되고 있습니다.

(4) 컴파일러

최근에는 비전문가의 진입장벽을 낮추기 위한 컴파일러 연구도 다양하게 진행되는 추세입니다. 원하는 계산을 수행하는 스킴의 인수와 알고리즘을 자동적으로 선택해서 프로그래밍 할 수 있도록 만드는 것입니다. 동형암호에 대한 배경지식이 다소 부족하더라도 프로그래밍을 할 수 있다는 것이 장점입니다.

지금까지 Microsoft SEAL을 대상으로 CKKS를 위한 컴파일러 및 최적화 프로그램[15], SEAL, HElib, FHEW, TFHE, PALISADE 등 대부분의 동형암호 라이브러리를 지원하는 E3 컴파일러[16], HEaaN을 지원하는 CHET 컴파일러 등이 발표되었습니다.[17]

아직까지는 행렬-벡터 곱셈 등을 도와주는 기초적인 수준이지만, 머지않아 통계 분석과 기계학습 등 보다 복잡한 프로그래밍을 지원하는 컴파일러가 등장할 것으로 기대됩니다.

동형암호를 제조 비즈니스에 활용하려면?

아직 동형암호화를 위한 만능 솔루션은 존재하지 않습니다. 따라서 동형암호를 활용하고자 할 때에는 구체적인 기술 실증(PoC)을 통해 최적화된 동형암호 알고리즘을 적용하는 것이 중요합니다. 또, 암호화하지 않은 데이터로 머신러닝을 돌린 결과와 비교하면 정확도가 다소 떨어질 수 있다는 점도 감안해야 합니다. 덧셈과 곱셈을 기초로 다항식 근사 계산을 하는 과정에서 오차가 생길 수 있기 때문입니다.

아직 진화 중인 기술이지만, 아하랩스는 보다 좋은 솔루션을 제공하기 위해 동형암호 활용을 고려하고 있습니다.

아하랩스의 데이터 수집 통합 솔루션 DATA CAMP는 2024년 클라우드 서비스로 출시를 준비하고 있습니다. 공장 내 다양한 설비에서 수집하고 전처리한 데이터 가운데 선별한 데이터를 클라우드로 전송해 대시보드를 구성할 수 있습니다. 본사 또는 해외 지사 등 어디에서나 실시간으로 모니터링하고 공정을 개선할 수 있게 됩니다. 이 과정에서 동형암호 인코딩을 활용해 자체 보안을 확보할 예정입니다.

무엇보다 동형암호는 완벽한 보안 성능을 제공합니다. 이를 활용하면 지금까지 산업 보안 규제로 인해 쌓아두기만 했던 데이터를 활용해 새로운 가치를 창출할 수 있게 될 것입니다.