Workday Illuminate: 엔터프라이즈 AI의 미래

이 블로그에서 다룰 내용: 

• 미래를 향한 여정을 안내하는 Workday
• 데이터 외에도 컨텍스트가 중요한 이유
• Workday Illuminate 소개

ChatGPT와 같은 제품에서 거대 언어 모델(LLM)을 사용하는 것을 특징으로 하는 이번 세대 AI의 첫 번째 단계가 끝나가고 있습니다. 지난 2년간 불타오른 초기의 환희와 열정은 이 단계가 끝나가면서 특히 엔터프라이즈 어플리케이션에서 건전한 회의론과 중요한 질문으로 대체되고 있습니다.

하지만 AI를 신중하게 활용한다면 그 잠재적 이점이 엄청날 것이라는 점은 분명한 사실입니다.  

다음 단계에서는 소비자 시장과 엔터프라이즈 시장의 AI에 관한 접근 방식이 더욱더 달라질 것입니다. 조직은 어디에서 운영하든 간에 계속 달라지는 규제, 다양한 책임, 그리고 LLM 기반 솔루션과 관련된 비용을 감안한 ROI에 관한 실용적인 문제의 영향에서 벗어나기 어렵습니다. 엔터프라이즈 AI는 관심을 끄는 사용 사례를 넘어 실질적인 가치를 입증할 수 있어야 합니다. 따라서 고객은 벤더가 LLM 기반 AI 솔루션의 과제를 신중히 해결하게 해야 합니다.

LLM 기반 AI에는 해당 기업이 AI 기반 솔루션의 개념 증명에서 광범위한 도입으로 전환하기 위해 해결해야 할 몇 가지 과제가 있습니다. 1) 정확성, 2) 반복성, 3) 편향성, 4) 지연 시간, 5) 비용, 6) 메모리 등이 여기에 포함됩니다.

• 정확성. LLM은 패턴 인식 능력이 탁월하며, 방대한 데이터세트를 활용하여 사람이 인지할 수 없는 상관관계를 식별합니다. 즉, LLM은 ‘정확성 엔진’이 아니라 ‘인기도 엔진’입니다. 자동 완성에서 다음 단어를 제공하는 유형의 AI는 정답 여부와 관계없이 인기 있는 답변을 제공합니다. 인기가 종종 정확성과 동일시되는 소비자 시장에서는 용인될 수 있지만, 엔터프라이즈 환경에서는 정확성이 요구됩니다. 출력이 잘못되면 특히 중요한 어플리케이션에서 법적 및 규정 준수 위험을 초래할 수 있습니다. 

• 반복성. LLM은 본질적으로 확률적이기 때문에 입력값이 동일해도 다양한 출력을 생성합니다. 이 가변성은 인간과 유사하게 보여 AI 품질에 기여할지 모르지만, 일관성이 가장 중요한 엔터프라이즈 시나리오에서는 문제를 야기합니다. 의료, 재무 및 규정 준수 분야의 어플리케이션에는 반복 가능한 결과가 필요할 수 있습니다. 

• 편향성. LLM은 과거를 발굴하여 미래를 예측합니다. 이 과정에서 방대한 데이터를 소비하며, 이 데이터에는 의도된 패턴과 의도하지 않은 패턴이 모두 포함되어 있습니다. 과거로부터의 편향과 차별의 흔적이 데이터에 내재해 있으며, 이를 방치하면 이 데이터를 기반으로 훈련된 LLM은 이후에도 편향된 패턴을 유지하게 됩니다. AI 시스템을 개발하는 엔터프라이즈 벤더는 우선 학습 데이터를 검토하고 이해하는 것에서 시작하여 편향성을 찾아내고 개선하는 기술을 사용하는 것이 중요합니다.

• 지연성. LLM은 결과를 생성하는 데 상당한 시간이 필요합니다. 성과가 더 좋은 결과는 더 오래 걸릴 수 있습니다. 많은 사용 사례에서 이 때문에 AI 활용을 포기하진 않습니다.  하지만 이 기술을 확장하여 여러 액션을 수행하고 연쇄적 사고와 같은 방법을 사용하여 더 깊이 ‘사고’하려면 여러 LLM을 결합해야 합니다. 그러면 각 액션에 이러한 LLM 간의 수많은 주고받기가 수반될 가능성이 높습니다. 이렇게 되면 각각의 지연이 더해지고, 사용 사례의 요건에 따라 전체 응답 시간이 용납할 수 없을 정도로 길어질 수도 있습니다.

• 비용. LLM은 대규모 컴퓨팅 리소스를 기반으로 하는 거대한 소프트웨어 엔진입니다. 학습과 사용에 필요한 비용이 엄청나게 높습니다. 실제 비용은 물론 에너지와 환경 같은 리소스에 미치는 영향도 무시할 수 없습니다. 더 나은 결과를 얻기 위해 LLM을 확대하고 결합할수록 비용은 급격히 증가합니다. 

• 메모리. 현재 LLM에서 ‘기억’하는 기능은 요청에서 요청으로 또는 태스크에서 태스크로 제한되어 있습니다. 컨텍스트 윈도우라고 하는 이 메모리 길이는 크기가 커질수록 경비와 응답 시간이 모두 증가하므로 대부분의 LLM은 메모리 길이가 매우 제한적입니다.   

미래를 향한 여정을 안내하는 Workday

Workday의 접근 방식은 항상 데이터에서 출발합니다. Workday와 고객은 세계에서 가장 크고 무결하며 차별화된 엔터프라이즈 데이터 세트를 보유하고 있습니다. 조직의 인력과 자금에 관한 광범위한 어플리케이션을 포괄하는 이 데이터를 통해 업무 속도를 높이고, 태스크 완료를 지원하며, 나아가 엔터프라이즈 운영 방식을 혁신하는 데 사용 가능한 패턴을 찾아낼 수 있습니다. 이 데이터는 Workday의 사용 권한, 규제, 법률, 윤리적 문제 해결의 출발점이기도 합니다. Workday는 처음부터 이 개념을 기반으로 하는 업계 유일의 머신러닝 개발 플랫폼을 구축했습니다.

데이터는 단순히 양이 많다고 가치 있는 것이 아닙니다. 다양성으로 인해 가치가 높아지기도 합니다. Workday는 수십여 개 업종 및 국가에서 수십 명부터 수백만 명의 직원을 보유한 다양한 규모의 조직 10,500곳의 데이터를 보유하고 있습니다. 특정 질문을 하고 이에 답하기 위해 작은 데이터 세트를 슬라이스하여 상세히 분석하면 LLM에 공급할 데이터가 금방 부족해질 수 있습니다. Workday의 데이터 세트는 매우 크고 다양하기 때문에 고품질의 결과를 도출하기에 충분한 데이터를 유지하면서 슬라이스할 수 있습니다.

더 작은 데이터 세트를 사용할 수 있는 이러한 기능은 Workday의 모델 방식에도 부합합니다. 일반적으로 Workday는 대형 모델에서 파생된('정제된') 소형 모델을 사용합니다. 물론 불과 3년 전의 LLM과 비교하면 엄청나게 큰 모델입니다. 각 모델을 이러한 소규모 데이터 세트로 학습시키고 필수 컨텍스트를 추가하여 속도와 정확도 측면에서 대규모의 일반화된 모델보다 훨씬 적은 시간과 비용으로 더 나은 결과를 생성합니다. 소형 모델을 사용하면 컨텍스트 윈도우를 늘릴 수 있어 LLM이 훨씬 더 복잡한 작업을 수행하는 것이 가능해집니다. 그러면 경비, 급여 또는 계약과 같은 특정 영역에서 각각 ‘전문가’인 이러한 모델을 결합하여 여러 영역에서 발생하는 복잡한 문제를 해결할 수 있습니다. 

데이터 외에도 컨텍스트가 중요한 이유

컨텍스트는 LLM을 활용하여 문제를 해결하는 방법 측면에서도 중요합니다. 고품질 데이터는 필수이지만, 위에서 강조한 엔터프라이즈 과제를 극복하려면 이것만으로 충분하지 않습니다. LLM이 답을 명확히 파악하고 올바른 결과를 도출하려면 컨텍스트가 필요합니다. 컨텍스트는 학습에서, 미세 조정할 때, 그리고 고급 프롬프팅과 RAG(검색 증강 생성) 같은 기술을 통한 실제 사용 시 제공되어야 합니다.  

그러면 컨텍스트란 무엇일까요? 컨텍스트는 비즈니스 컨텍스트와 사용자 컨텍스트의 조합입니다. 비즈니스 컨텍스트에는 특정 업종이나 전문 분야의 고유한 언어인 분류 체계와 온톨로지가 포함됩니다. 이 차이는 일상생활에서도 접할 수 있습니다. 즉 의학이나 법률 등 주제별 전문가들이 일반 대중과 다른 방식으로 언어를 사용하는 경우가 있으며, 기본 LLM은 바로 이러한 내용을 학습합니다. 비즈니스 컨텍스트는 특정 조직과 해당 약관 또는 표준 문서(예: 계약 LLM이 새로운 계약을 분석하거나 작성할 때 사용하는 정식 표준 계약서 등)에 더 구체적일 수 있습니다. Workday는 다양한 사용 사례와 업종에 걸쳐 심층적인 데이터를 보유하고 있으므로, LLM이 모든 측면에서 성과를 개선하기 위해 필요시 적절한 비즈니스 컨텍스트를 제공할 수 있습니다.

이 방식에서 종종 간과되는 것은 사용자 컨텍스트입니다. LLM이 제공해야 하는 올바른 답은 비즈니스 컨텍스트에 따라 달라질 뿐만 아니라 질문하는 사람과 그 역할에 따라서도 달라집니다. 질문하는 사람이 주제별 전문가인지 아니면 일반 사용자인지 인식하는 일은 각각에 가치 있는 답변을 제공하기 위해 매우 중요합니다. Workday는 7천만 명 이상의 활성 사용자에 대하여 이러한 데이터, 즉 사용자의 신원, 직책, 역할, 위치 등을 보유하고 있습니다. 따라서 Workday의 AI는 질문자와의 관련성을 높이기 위해 답변을 맞춤화할 수 있습니다.

Workday Illuminate 소개

이러한 점을 고려할 때 Workday의 차세대 AI, Workday Illuminate(워크데이 일루미네이트)에 구현된 비전은 AI의 가치를 효율성 제고(예: 정확한 직무 설명 생성)의 차원에서 완전한 엔터프라이즈 트랜스포메이션으로 전환하는 것입니다. 

Workday Illuminate는 단순히 업무 속도를 높이는 데 그치지 않고, 비즈니스 운영 방식을 재정의하는 중대한 변화를 실현합니다. Workday Illuminate는 사용자가 현재 업무를 더 빠르고 스마트하게 처리하도록 지원합니다. 더 빠르고 효과적으로 작성하고, 자동으로 인사이트를 찾고, 지식 문서나 계약서 작성, 이상 감지, 자동 채우기와 같은 번거로운 태스크를 자동화할 수 있습니다. 

또한 Workday Illuminate는 검색 및 액션에 관한 전문 지식을 제공하여 사용자를 지원합니다. 비서가 매일 곁에 있는 것처럼 무엇이든 즉시 찾고, 맞춤형 지원을 받고, 복잡한 프로세스를 탐색하고, 최신 정보를 얻으며, 승인을 자동화할 수 있습니다. 

그 자체도 매우 가치 있지만, Workday Illuminate의 가장 큰 영향력은 그 트랜스포메이션 역량에 있습니다. 예를 들어 HiredScore의 기능을 Workday에 통합하면 접수부터 제안까지 엔드투엔드 채용 프로세스를 재구상하여 더 짧은 시간에 인재를 찾고 채용담당자의 수용력을 25% 향상할 수 있습니다. 경비, 승계 계획, 회계 등의 프로세스에서도 이를 수행할 수 있습니다. 전체 워크플로에 관한 인식을 근본적으로 새롭게 함으로써 Workday Illuminate는 조직이 AI를 통해 획기적인 가치를 달성하고 AI를 더 쉽게 도입할 수 있도록 지원합니다. 단순히 일을 더 빨리 처리하는 것이 아니라 다른 방식으로 더 효과적으로 처리하고, Workday 전문가이든, 일반 사용자이든 상관없이 더 많은 성과를 달성하도록 역량을 강화합니다. 

혁신을 위한 노력

Workday는 Workday Illuminate 비전을 구축하는 데 지속적으로 기여할 뿐만 아니라, 액세스 기회를 개방하여 고객과 파트너가 직접 Workday를 기반으로 기능을 확장하도록 지원하고 있습니다. 고객과 파트너는 AI Gateway와 함께 Workday Extend를 통해 AI 기능을 활용하고 자신만의 고유한 사용 사례와 맞춤형 어플리케이션을 구축할 수 있습니다. Workday는 지금까지 Workday Extend를 통해 400개 이상의 AI 기반 어플리케이션을 구축했습니다.

혁신을 핵심 가치로 삼는 Workday는 핵심 어플리케이션, Workday Illuminate, Workday Extend, 사용자 경험을 위한 투자를 지원하기 위해 계속해서 책임감 있게 그리고 목적에 맞게 Workday 플랫폼을 구축해 나가고 있습니다. Workday는 최적의 성과와 지속적인 발전을 위해 AI 모델을 적극적으로 미세 조정하고 있으며, 특히 AI 혁신을 위한 변함없는 노력은 엔터프라이즈 기술의 미래를 형성하는 플랫폼으로 이어져 고객에게 미래를 여는 새로운 여정을 안내하고 있습니다.  

AI를 활용할 줄 안다면, AI는 인간의 잠재력을 향상하고 경쟁 우위를 확보하는 데 도움이 될 수 있습니다. AI를 통해 지속 가능한 성장과 혁신을 실현할 준비가 되셨나요? 현재 진행 중인 클래스에 참여해 보세요.