📘 Dell, 헤데라 기반 EQTY Lab AI Verifiable Compute 백서 공개

🔑 Executive Summary

이번 Dell Trusted AI Verifiable Compute Whitepaper는 AI가 어떻게 계산되었는지를 사후적으로 설명하는 기존 접근을 넘어, AI 연산 그 자체를 하드웨어 단계에서 증명(Verifiable)하는 새로운 기준을 제시합니다.

Dell, EQTY Lab, NVIDIA, Intel이 공동으로 설계한 Verifiable Compute는 CPU·GPU의 Trusted Execution Environment(TEE) 내에서 AI 학습과 추론을 수행하고, EQTY의 암호학적 AI Notary를 통해 데이터·모델·코드·연산 환경을 실시간으로 서명 및 기록합니다. 특히 이 증명 데이터는 Hedera Consensus Service(HCS) 에 등록되어 변경 불가능한 타임스탬프를 갖는 독립적인 감사 기록으로 남게 되며, 이는 EU AI Act, Sovereign Cloud, 금융·공공기관 규제 환경에서 요구되는 신뢰·투명성·책임성을 기술적으로 충족시키는 핵심 요소로 작동합니다.

📊 Benchmark & Performance 결과 (Chapter 5–6, p.21–25)

🔍 핵심 검증 질문

Dell은 Verifiable Compute를 단순한 개념 검증(PoC) 수준이 아닌, 실제 엔터프라이즈 환경에서의 도입 가능성을 검증하기 위해 정량적인 성능 벤치마크를 수행했습니다.

테스트 환경은 Dell PowerEdge R760 + NVIDIA H100 GPU 기반의 표준 엔터프라이즈 AI 인프라이며, 검증 포인트는 단순 연산 속도가 아니라 암호학적 증명, TEE 격리, 거버넌스, 감사 로그가 모두 포함된 상태에서의 실제 성능이었습니다.

🧪 벤치마크 구성: 실제 운영 환경 기준 테스트

📌 테스트 대상 워크로드

텍스트 Tokenization
LLM Inference (3B → 70B 모델 스케일)
엔터프라이즈 AI 파이프라인 전반

📌 전제 조건

CPU·GPU Trusted Execution Environment(TEE) 활성화
EQTY Verifiable AI Notary 적용
시간 증명 생성 및 감사 가능한 상태

⚙️ Tokenization 결과: 성능 영향 0%

🔹 대규모 텍스트 처리 및 전처리 작업 기준
🔹 암호화, 무결성 검증, 서명 프로세스 적용 후에도 처리량 저하나 지연 시간 증가 없음

✅ 의미

데이터 전처리·문서 분석·로그 처리 등 엔터프라이즈 AI의 기본 워크로드에 즉시 적용 가능
“보안이 들어가면 기본 작업부터 느려진다”는 가정을 부정

🧠 LLM Inference 결과: 평균 오버헤드 4.5% 이하

🔹 3B / 8B / 14B 모델 전반에서 평균 성능 오버헤드 ≤ 4.5%
🔹 기존 Confidential Compute 대비 Verifiable Compute 추가 비용이 매우 제한적

✅ 의미

실시간 추론, 고객 응대, 분석형 AI 서비스에서도 체감 성능 저하 없이 운영 가능
규제·감사 요구가 있는 산업에서도 AI 적용 장벽 제거

🚀 대규모 70B 모델 결과: 오버헤드 0.1%

🔹 70B급 LLM 기준

성능 오버헤드 0.1%
사실상 무시 가능한 수준

🔹 분석 결과

오버헤드는 연산이 아닌 I/O 및 데이터 이동 구간에 집중
GPU 메모리·연산 단계 진입 이후에는 거의 동일한 성능

✅ 의미

모델이 클수록 검증 비용은 희석
대형 모델을 운영하는 기관·금융·국가 단위 AI 환경에 최적

📊 종합 성능 평가

📉 평균 성능 오버헤드: 9% 미만
📉 대규모 모델 기준: 0.1%
🔒 보안·감사·거버넌스 포함 상태에서의 수치

✅ 결론

Verifiable Compute는 보안을 위해 성능 저하한다는 기존의 “Trusted AI = 느리다”는 인식을 데이터로 반박 검증했습니다.

🏁 Dell의 메시지: 상용 검증 완료

Verifiable Compute는 더 이상 개념 검증(PoC)이나 연구 단계의 기술이 아니라, 실제 엔터프라이즈 환경에서 성능·보안·감사 요구를 모두 충족하는 상용 검증을 마친 Trusted AI 인프라라는 점입니다. 토큰화부터 대규모 LLM 추론에 이르기까지, 암호학적 증명과 거버넌스가 포함된 상태에서도 성능 저하가 사실상 무시 가능한 수준임이 수치로 입증되었으며, 이는 규제와 책임이 필수적인 기관·금융·공공·대기업 환경에서도 즉시 도입이 가능함을 의미합니다. Dell은 이번 백서를 통해 Verifiable Compute를 미래의 실험적 기술로 소개하지 않았으며, 이미 검증된 하드웨어와 소프트웨어 스택, 그리고 서비스 포트폴리오를 통해 Trusted AI를 지금 바로 구매하고 운영할 수 있는 현실적인 선택지로 제시하고 있습니다.