신뢰할 수 있는 엔터프라이즈 AI를 위한 심층 방어 체계의 필요성

이 블로그에서 다룰 내용

• AI 시대에 대응하는 소프트웨어 개발 현대화

• 오픈 리서치를 통한 AI 보안 강화

• 독자적인 전문성과 오픈 커뮤니티 도구의 결합

• 개방형 및 폐쇄형 AI 시스템을 모두 활용하는 실용적 사례

Workday는 신뢰가 무엇보다 중요하고 사실상 오류가 용납되지 않는 엔터프라이즈 HR, 재무, IT 등 기업의 핵심 영역에서 운영됩니다. 안전하고 신뢰할 수 있는 엔터프라이즈 AI를 제공하려면 ID 관리 및 액세스 권한에서 지속적인 가드레일, 모니터링, 거버넌스에 이르기까지 어플리케이션 스택 전반에 걸친 다층적 보호 체계가 필요합니다.

Workday는 이와 같이 까다로운 기준에 발맞춰 내부 보안 엔지니어링 프로그램을 계속 발전시켜 나가고자 Open Secure AI Alliance에 참여합니다. 엔터프라이즈 AI는 더 개방적인 스택과 차원 높은 에이전트를 향해 빠르게 변화하는 중입니다.

신뢰는 늘 엔터프라이즈 소프트웨어 개발 및 제공 방식의 기반이었으며, 이제 AI 제공 방식의 기반으로 자리 잡았습니다. AI와 관련된 보안 위험을 해결하는 것은 어느 한 기업이 단독으로 해낼 수 없는 업계 전체의 과제입니다. Workday가 이 제휴 커뮤니티에 참여함으로써 새로운 지식을 습득하고, 엔터프라이즈 관점을 제시하며, AI의 안전한 미래를 위한 공동의 노력에 기여할 수 있게 됩니다. 

Open Secure AI Alliance는 클라우드 컴퓨팅, 사이버 보안, 엔터프라이즈 소프트웨어, 오픈소스 재단, AI 리서치 분야의 대표 주자들이 만든 협력 기구로서 AI 인프라를 보호하는 데 필요한 도구, 기술, 공유 지식을 제공하여 안전한 AI 시대를 만들어 가도록 지원합니다. Linux Foundation의 Akrites 이니셔티브와 OpenSSF 커뮤니티의 선구적 활동을 토대로 이 제휴사들은 개방형 접근 방식으로 취약점을 식별, 해결, 공개하면서 협업할 것입니다.

Workday의 에이전트 패스포트(Agent Passport)를 예로 들어보겠습니다. Workday는 엔터프라이즈 AI 에이전트가 작동할 때 이를 투명하게 테스트, 검증, 모니터링할 수 있는 시스템을 구축했습니다. 데이터를 보호하는 방식도 동일합니다. 최신 암호화 기술로 업그레이드하여 고도로 지능화된 컴퓨팅 위협으로부터 고객 데이터를 안전하게 보호합니다.

AI 시대에 대응하는 소프트웨어 개발 현대화

안전한 AI를 개발하려면 기존의 소프트웨어 개발 방식에 대한 인식을 전환해야 합니다. Workday는 AI 관련 보안 위험을 해결하기 위해 보안 소프트웨어 개발 라이프사이클을 발전시켜 위협 모델링, 공급망 제어, ID 아키텍처 등 핵심 보안 구성요소를 AI 제품에 맞춰 완전히 현대화했습니다. 

아울러 Workday 내부의 자체 보안 태세를 철저히 강화하는 데에도 AI를 활용합니다. 개발 주기 전반에 걸쳐 코드 스캐닝, 위협 탐지, 취약점 관리를 자동화함으로써 각 팀이 복잡한 엔터프라이즈 시스템을 대규모로 방어하는 데 필요한 속도와 정밀함을 확보합니다.

이러한 운영 보안 기능이 Workday에 직접 구현되어 있으나, 더 광범위한 AI 에코시스템을 보호하기 위해서는 Workday 자체의 영역을 넘어선 접근이 필요함을 잘 알고 있습니다.

오픈 리서치를 통한 AI 보안 강화

AI 시대의 진정한 보안은 코드 저장소에만 의존해서는 실현할 수 없습니다. 오픈소스 도구는 실질적인 보안 방어에 필수적이지만, 그 효과를 제대로 누리려면 이를 뒷받침하는 리서치, 공유 지식, 평가 표준이 반드시 필요합니다. 보안팀이 더 나은 도구를 마련하려면, 먼저 복잡한 Agentic AI 아키텍처 전반에서 나타나는 새로운 취약점 패턴에 관한 증거를 공유하고 더 깊이 탐구해야 합니다.

Workday는 이와 같은 토대를 구축하는 차원에서 오픈 리서치와 에코시스템 협업을 확대하고자 유럽 본사의 AI CoE(Centre of Excellence)에 투자하고 있습니다. 더블린시티대학교(DCU), 더블린대학교(UCD), 더블린공과대학교(TUD), 트리니티칼리지 등과의 전략적 학술 파트너십을 통해 주요 학계 연구진과 직접 손잡고 핵심 AI 보안 영역에서 최첨단 기술을 개발합니다.

• Agentic AI 보안: 다중 에이전트 엔터프라이즈 워크플로를 위한 권한 경계, 상태 관리, 격리 패턴 연구

• 적대적 테스트: 프롬프트 인젝션, 탈옥, 데이터 추출 등에 대비해 시스템을 스트레스 테스트하는 방법론과 공격 시뮬레이션 개발

• LLM 설명 가능성: 엔터프라이즈 보안 담당자가 복잡한 모델 추론을 관찰하고 감사할 수 있도록 프레임워크와 설명 가능성 방법론 구축

이러한 파트너십은 더 광범위한 연구 개발 커뮤니티에 안전한 AI 배포에 필요한 인사이트를 제공하려는 Workday의 의지를 반영합니다.

독자적인 전문성과 오픈 커뮤니티 도구의 결합

지금까지 Workday가 이룬 보안 혁신의 많은 부분은 바로 Workday 클라우드 플랫폼을 보호하기 위해 내부적으로 개발되었습니다. 그러나 엔터프라이즈 기술 스택이 점점 더 하이브리드 및 다중 모델로 진화하는 까닭에 개방형 에코시스템 참여를 의도적으로 확대하는 중입니다.

개인정보 보호나 보안을 저해하지 않으면서 공유 툴링을 통해 업계 공통의 과제를 해결할 수 있는 경우, Workday는 도구와 리서치 결과를 업계와 공유할 기회를 적극적으로 모색합니다. 실례로 오픈소스 '합성 데이터 생성기(Synthetic Data Generator)'가 있습니다. 이 도구는 개발자가 개인정보 보호를 고려한 합성 데이터세트를 사용하여 어플리케이션을 구축, 테스트, 평가하는 데 도움을 줍니다.

Open Secure AI Alliance에 참여함으로써 그간 민감한 HR, 재무, 엔터프라이즈 데이터를 보호해 온 Workday의 경험이 커뮤니티를 위한 실용적인 오픈소스 방어 자산으로 활용될 수 있는 새로운 영역을 발굴하기를 기대합니다.

개방형 및 폐쇄형 AI 시스템을 모두 활용하는 실용적 사례

안전한 AI의 미래는 개방형 모델과 폐쇄형 모델 중 하나를 선택해야 하는 이분법으로 정의되지 않을 것입니다. 엔터프라이즈 아키텍처에는 둘 다 필요합니다. 프론티어 폐쇄형 모델이 특정 작업을 위한 최첨단 추론 기능을 제공한다면 오픈웨이트(open-weight) 모델, 오픈 하네스(open harnesses), 검사 가능한 보안 도구는 보안 담당자가 사고를 분석하거나 민감한 워크플로를 실행할 때 로컬 차원의 통제, 적응, 자율 기능을 제공합니다.

하나의 모델 아키텍처가 모든 비즈니스 니즈를 충족할 수는 없습니다. 기업들은 (고객이 호스팅하는 에이전트, 소버린 배포 등을 비롯한) 다양한 경로를 통해 AI 에이전트를 도입합니다. 따라서 관건은 어떤 모델이 개방형 아니면 독점형이냐가 아니라 전체 시스템이 핵심 비즈니스 워크플로에 필요한 ID 제어, 권한 경계, 데이터 보호, 모니터링, 거버넌스를 갖추고 있느냐입니다.

적절한 안전장치가 없다면 개방성이 그 자체로 더 안전한 건 아닙니다. 그러나 오픈 리서치, 공유 평가 방법론, 협업 방어 툴링은 업계가 취약점을 더 일찍 파악하고 테스트를 개선하며 AI 공급망 전반에 걸쳐 문제 해결 역량을 강화하는 데 도움이 될 수 있습니다.

Workday는 독점형 모델과 오픈웨이트 모델을 모두 포괄하는 개방적이고 경쟁력 있는 AI 에코시스템을 지원합니다. Workday의 목표는 고객이 각자의 인텔리전스를 바탕으로 가장 중요한 업무에 필요한 보안, 개인정보 보호, 신뢰 체계를 유지하면서 AI 구현 방식을 효과적으로 선택하고 관리하도록 돕는 것입니다.