기업용 AI의 미래

1959년에 잘 알려지지 않은 스웨덴 엔지니어가 운송 분야에 혁명을 일으킬 제품을 개발했습니다. 그전까지만 해도 자동차 운전자는 충돌 시 자신을 보호할 수단이 거의 없었으며 당시 흔하던 무릎 벨트는 효과가 없고 사용되지 않는 경우가 많았습니다. 3점식 안전벨트의 발명으로 상황이 바뀌었습니다. 이 기술은 전 세계 자동차 제조 업계에 빠르게 채택되었으며, 지난 수십 년 동안 교통사고 사망자 비율이 급격하게 감소한 주된 이유입니다. 충돌을 완전히 막는 일은 불가능했지만, 자동차 운전의 이점과 엄격해진 안전 표준의 시너지로 전 세계에서 많은 운전자의 리스크 부담이 크게 줄었습니다.

Workday의 AI 및 머신러닝(ML) 부문 VP, Shane Luke는 이 사례를 통해 우리가 인공지능에 관한 인식을 정립할 수 있다고 말합니다. Luke는 이렇게 말합니다. "차를 타면 사고를 당할 가능성은 당연히 있습니다. 하지만 잠재적인 리스크를 줄이면, 이제 확실히 알고 있는 상태에서 리스크를 감수할 수 있습니다. Workday의 AI 구현에 관한 생각도 이와 비슷합니다."

이 비유에서 Luke는 안전벨트를 만드는 사람으로 생각할 수 있습니다. Workday에서 Luke의 역할은, 특히 데이터와 관련하여 AI 어플리케이션을 책임감 있게 개발하려는 Workday의 노력을 관리 감독하는 것입니다. 그가 열정적으로 일하는 이유는 엔터프라이즈급 기술이 혁신을 불러일으키고 직원 유지에서 감사에 이르기까지 모든 측면에서 비즈니스의 효율성을 높이는 데 도움이 되어야 한다는 신념 때문입니다. 즉, 깨끗하고 투명하며 안전한 데이터세트를 보장하기 위한 안전 아키텍처가 마련되어야 합니다.

"AI에 내재된 리스크가 있습니다. 하지만 우리는 기업에서 리스크를 줄이고 이점을 최대한 활용하도록 시스템의 안전 기술을 구축하는 데 최선을 다합니다."라고 Workday의 AI 및 머신러닝 부문 VP, Shane Luke는 말합니다.

원시 데이터 사용의 위험

Workday의 연구에 따르면, CEO의 98%가 AI 및 ML을 구현하면 즉각적인 비즈니스 이점을 얻을 수 있다는 것을 알지만, 데이터 보호와 관련된 불확실성과 신뢰 부족 때문에 비즈니스 리더는 이 기술을 완전히 수용하고 채택하는 것을 주저하고 있습니다. AI의 데이터 보호 및 보안과 관련된 두려움은 대부분 고객용 생성형 AI 모델에서 비롯됩니다. 이러한 어플리케이션은 데이터 풀이 불투명합니다. 스탠포드대학교 인간중심AI 연구소의 개인정보 보호 및 데이터 정책 펠로우, Jennifer King은 이렇게 말합니다. "대체로 윤리적 AI란 시스템이 수집하는 정보에 관한 투명성을 보장한다는 의미입니다. 따라서 데이터 공급망이 매우 중요합니다." 그녀는 공개 AI 플랫폼을 사용하면 시민권을 침해할 수 있는 차별적 정보에서 허구의 데이터세트에 이르기까지 입력 내용이 문제가 될 수 있다고 말합니다.

그러나 기업용 AI는 전적으로 로그인된 환경에서 작동합니다. "사용자가 누구인지 알고 있습니다. 그러므로 인터넷에 공개되는 정보와 달리 책임 의식이 있을 수밖에 없죠."라고 Luke는 말합니다. 따라서 프롬프트 주입과 같은 일반적인 우려사항(악의적인 사용자가 의도적으로 AI 훈련을 해킹하여 유해한 콘텐츠를 생성한다는 두려움)을 완벽하게 감사하고 사용자를 추적할 수 있습니다.

결과의 정확성은 또 다른 문제입니다. Workday 연구에 따르면, 비즈니스 리더의 61%가 잠재적인 오류를 가장 큰 문제로 꼽았습니다. 공개 어플리케이션에서는 데이터가 많을수록 불필요한 데이터가 많아지며, 이는 머신러닝 시스템에서 오류가 발생할 가능성이 커진다는 의미입니다. 목적에 맞게 구축된 AI를 위해 더 작고 깨끗한 데이터세트를 사용하는 엔터프라이즈 기술 파트너와 협력하면 이는 문제가 되지 않습니다. Workday를 예로 들어 보겠습니다. Workday는 고객이 스킬을 기반으로 인력을 매핑하여 기술 격차나 성장 기회를 쉽게 확인하게 해주는 머신러닝 어플리케이션이 있습니다. 이 도구는 광범위한 공개 인터넷에 액세스하지 않습니다. Workday가 보유한 전문 정보에 관한 가시성을 바탕으로 작동합니다. "데이터세트가 소비자 앱만큼 크지 않지만, 관련성이 높고 비즈니스에 최적화된 매우 구체적인 데이터가 있습니다."라고 Luke는 말합니다.

그렇다고 기업용 AI가 강력하지 않다는 것은 아닙니다. 예를 들어 Workday는 연간 6천만 명 이상의 사용자를 위해 약 4,500억 건의 트랜잭션을 처리합니다. 이 규모를 고려할 때 많은 경영진에게 중요한 질문은 조직 외부에서 직원 데이터가 어떻게 처리되는가입니다. 이러한 우려는 대부분 공개 AI 도구의 부실한 보호 시스템에 기인합니다. King은 개방형 모델이 ‘데이터가 처리되는 방식에 관한 많은 사람들의 기대를 저버린다’고 지적합니다.

반대로 엔터프라이즈 어플리케이션에는 강력한 개인정보 보호 제어 기능이 시스템에 내장되어 있습니다. 예를 들어 Workday는 아키텍처를 중앙 집중화하여 고객이 항상 자신의 데이터가 사용되는 위치와 방법을 알 수 있도록 합니다. Workday의 최고기술책임자(CTO), Jim Stratton은 이렇게 말합니다. "우리는 최종 사용자 데이터를 보호하고 고객을 대신하여 데이터를 호스팅하는 것을 목표로 회사를 설립했습니다. AI 및 머신러닝과 관련해서도 동일한 보호 기능을 사용하며 같은 데이터 처리 방식을 고수합니다."

규제의 역할

AI의 리스크 해소는 AI를 배포하는 회사만의 책임이 아닙니다. 정책 입안자는 데이터 사용에 관한 안전 대책을 마련하는 데 중요한 역할을 합니다. King은 워싱턴 D.C.에서 정책을 입안하는 데 도움을 주고 있습니다. "저를 비롯한 여러 사람이 주장하는 책임성 척도 중 하나가 데이터 이력 출처(data provenance)라고 부르는 것입니다."라고 그녀는 말합니다. "기업은 데이터를 가져온 출처를 문서화하고 이를 추적할 수 있어야 합니다."

규제에 관한 책임은 정책 입안자에게 있지만, 궁극적으로 데이터 관리에 관한 책임은 기업과 AI 파트너에게 있습니다. 비즈니스 리더가 기업의 독점 데이터와 직원의 개인 데이터를 보호해야 하는 것처럼, 기업은 안전하고 윤리적인 방식으로 기술을 활용하고 있음을 보여줘야 합니다.

"Workday에서 우리가 하는 일은 개인정보 보호 및 데이터 보안에 관한 기본 원칙을 구축하는 것입니다."라고 Luke는 강조합니다. 즉, 안전벨트가 만들어져 있으면 기업은 그것을 매기만 하면 됩니다.