Workday에서 AI로 혁신을 추진하면서 개인정보를 보호하는 방법

5월 25일은 유럽 일반 개인정보 보호법(GDPR)이 제정된 지 5주년이 되는 날입니다. 정말 놀라운 여정이었습니다. GDPR은 데이터 처리의 투명성과 책임 요건에 관한 새로운 시대를 열었으며, 기업이 개인정보 보호를 염두에 둔 설계 프레임워크를 수용하도록 의무화했습니다. 고객 및 규제 기관과의 대화에서 데이터 보호와 인공지능(AI) 및 머신러닝(ML)의 융합에 관심이 집중되고 있습니다. 누구에게 물어보느냐에 따라 AI와 ML의 미래는 밝아 보이거나 어두워 보일 수도 있고 둘 다일 수도 있습니다. 이전부터 혁신은 이러한 반응을 받았기 때문에 그리 놀랄만한 일이 아닙니다. 

데이터 보호는 AI와 ML 기술에서 가장 중요한 부분입니다. 모델은 수신하는 데이터의 양과 질에 따라 크게 영향을 받습니다. 하지만 기업은 개인정보를 보호하면서 AI와 ML 솔루션의 가치를 극대화해야 하는 어려움에 직면해 있습니다. 비즈니스 리더들은 직원이 더 유의미한 업무에 집중할 수 있도록 일상적인 작업을 자동화하는 동시에 회사의 정보를 안전하게 유지하는 데 도움이 되는 첨단 보안 기술을 원합니다. 

좋은 소식은 책임감 있는 혁신과 개인의 권리 보호가 공존할 수 있다는 것입니다. Workday에서는 개인정보 보호와 AI 윤리 원칙에 충실하면서 AI 및 ML 기술의 최신 발전을 활용하는 균형 잡힌 접근 방식을 취하고 있습니다.

Workday의 AI 혁신

올바른 데이터 보호 조치는 AI와 ML에 관한 신뢰를 얻고 강화하는 데 도움이 될 수 있습니다. 그렇게 되면 이러한 기술의 채택과 사용도 늘어납니다. 우리는 제품과 서비스에 관한 혁신을 추구하는 것처럼 AI와 ML 솔루션 개발에 개인정보 보호를 통합하기 위한 혁신적인 방법을 찾고 있습니다.

혁신의 정의는 새로운 것을 도입하는 것입니다. 기존 컴플라이언스 기준은 새로운 아이디어나 새로운 제품 또는 새로운 작업 방식에 쉽게 적용되지 않을 수 있고 완벽하게 맞지 않을 수도 있습니다. Workday는 누군가가 표준을 제정하여 전달할 때까지 기다리지 않습니다. 내부 표준을 선제적으로 마련하고 컴플라이언스 목표 달성에 도움이 되는 표준을 지원하기 위해 대외적으로 협력하고 지지합니다. 또한 우리가 지향하는 컴플라이언스를 고객이 평가할 수 있도록 돕습니다. 예를 들면 다음과 같습니다.

우리는 고객의 니즈를 예측합니다. GDPR이 시행되었을 당시에는 컴플라이언스에 관한 승인된 감사나 인증이 없었습니다. Workday는 발빠르게 SOC 2 리포트에 매핑을 추가하여 고객이 Workday의 컴플라이언스 상태를 알 수 있도록 했습니다. 그런 다음 Scope Europe에 참여하여 GDPR에 관한 컴플라이언스를 입증하는 EU 클라우드 행동강령을 만드는 데 도움을 주었습니다. 우리는 컴플라이언스를 인증한 최초의 회사였습니다.

우리는 GDPR 경험을 바탕으로, 고객이 Workday의 충실한 가치 이행을 신뢰하기 위해서는 ML 기능에 관한 정보가 필요할 수 있음을 깨달았습니다. Workday는 고객에게 투명하게 정보를 제공하기 위해 AI 솔루션의 작동 방식에 관한 설명이 포함된 데이터 시트를 제공합니다. 이렇듯 투명한 정보 제공을 통해 고객은 영향 평가를 실행하여 AI 및 ML과 관련된 리스크를 파악할 수 있습니다.

우리는 표준, 프레임워크, 모범 사례 개발을 지원합니다. Workday는 '신뢰할 수 있는, 책임 있는 AI' 개발 분야의 선두 기업입니다. Workday는 처음부터 미국 국립표준기술원의 AI 리스크 관리 프레임워크, 즉 NIST AI RMF를 지지하고 참여해 왔습니다. 우리는 전 세계 규제 기관 및 정책 입안자와 협력하여 신뢰할 수 있는, 책임 있는 AI 개발에 관한 국가별 표준 및 글로벌 표준을 수립하는 데 도움을 주고 있습니다.

뿐만 아니라 Workday 공동 사장인 Sayan Chakraborty는 개인 자격으로 미국 국가인공지능자문위원회(NAIAC)의 위원으로 활동하고 있습니다. 이 위원회는 여러 분야에 걸친 AI 전문가로 구성된 미국 최고의 팀으로, 의회의 감독을 받으며 Joe Biden 대통령에게 AI 문제에 관해 조언합니다. 저 또한 안전하고 신뢰할 수 있는 AI 시스템을 구입, 판매, 빌드하기 위한 도구를 제공하는 것을 목표로 하는 비영리 조직, Responsible AI Institute의 HR 워킹 그룹의 공동 의장을 맡고 있으며, 얼마 전에 새로운 AI 거버넌스 센터를 발표한 국제 개인정보 보호 전문가 협회(IAPP)의 이사회 일원이기도 합니다. 표준, 프레임워크, 모범 사례가 발전함에 따라 해야 할 일이 아직 많이 있지만, 우리는 입법자, 규제 기관, 업계 리더들과 협력하여 실행 가능하고 지속 가능한 솔루션을 만드는 데 기여하고 있습니다.

Workday는 견고한 토대 위에서 시간을 허비하지 않습니다. Workday의 ML Trust 팀은 ML 거버넌스 프로그램 개발 및 관리에 오랜 역사를 자랑하는 Workday의 개인정보 보호를 염두에 둔 설계 원칙을 활용합니다. ML Trust는 원칙, 정책, 표준, 가이드라인 등 프로그램의 핵심 영역과 관련해 저를 비롯해 개인정보 보호 팀과 긴밀하게 협력합니다. 이 모든 팀이 긴밀하게 공조하면서 시너지를 내고 있습니다.

일례로 이들은 데이터 최소화를 위해 협력합니다. 여러 부서로 구성된 그룹이 함께 작업하여 데이터가 절대적으로 필요한지 확인하기 위해 기능 또는 제품에 관한 데이터의 필요성을 평가하고 이에 관한 이의를 제기합니다. 이러한 철저한 조사는 데이터 수집이 시작되고 난 후에도 계속되며 더 이상 필요하지 않아 보이는 데이터는 즉시 제거됩니다.

우리는 직원이 책임감 있게 혁신을 추진할 수 있도록 지침과 교육을 제공합니다. Workday는 AI 및 ML 기술을 사용하는 직원에게 이러한 기술 사용과 관련해 발생할 수 있는 잠재적 리스크와 윤리적으로 고려해야 할 사항을 제대로 교육하는 것을 최우선 과제로 삼습니다. 이것이 바로 우리가 생성형 AI와 같은 이러한 기술 사용에 관한 명확한 가이드라인을 수립하는 이유입니다. 가이드라인에는 이 기술을 사용하고 사용하지 않아야 할 구체적인 사용 사례와 시나리오도 포함되어 있습니다. 이를 통해 우리는 잠재적 리스크를 해소하고 AI 및 ML 기술의 사용이 우리 회사의 가치와 윤리에 부합하도록 할 수 있습니다. 우리는 회사의 개인정보 보호 노력에 발맞춰 개발자가 빠르고 책임감 있게 행동하여 고객을 위한 혁신적이고 신뢰할 수 있는 최고의 제품을 만들도록 지원합니다.

개인정보 보호를 위한 변함없는 노력

혁신은 빛의 속도로 일어납니다. AI 같은 기술에서 개인정보 보호는 항상 최우선 과제로 삼을 것입니다. Workday는 개인정보 보호와 혁신 사이에 균형을 유지하는 리스크 기반 규제 접근 방식을 변함없이 지지합니다. 또한 개인정보 보호와 AI 및 ML 환경을 상시 모니터링하여 고객 또는 Workday 기술에 영향을 미칠 수 있는 변화를 예측합니다. 우리의 궁극적인 목표는 Workday 제품이 제공하는 생산성, 인사이트 및 인간의 잠재력 증진을 통해 계속 고객을 이롭게 하는 것입니다.