La inteligencia artificial (IA) sigue evolucionando y también evolucionan nuestros principios éticos. Kelly Trindel, Head of Machine Learning (ML) Trust en Workday, explica cómo creamos IA digna de confianza para nuestros clientes y sus empleados.
En estos últimos años hemos asistido a un gran cambio en la manera en que las empresas entienden la inteligencia artificial (IA) y las ventajas que puede aportar. Con más conocimientos al respecto, las empresas también han desarrollado sus planteamientos relativos al equilibrio entre esas ventajas y los posibles riesgos asociados a IA.
El aprovechamiento del potencial de IA puede contribuir a mejoras considerables en las aplicaciones que muchos de nosotros utilizamos a diario. Sin ir más lejos, están las experiencias propias como usuarios de navegadores, servicios de streaming o sitios de compras online favoritos. La inteligencia artificial mejora en gran medida los resultados y nos ofrece una experiencia más valiosa y personalizada.
En un ámbito más amplio, las empresas que optan por IA tienen la posibilidad de obtener beneficios exponenciales. Pero es esencial que desarrollen políticas y mecanismos de protección rigurosos para gestionar los riesgos relacionados con consecuencias imprevistas. Por eso Workday ha implementado ML Trust Program, que aborda específicamente el modo en que Workday ofrece tecnologías de machine learning e inteligencia artificial con especial atención a cuestiones de ética y confianza del cliente. Y además tiene en cuenta los reglamentos globales emergentes sobre IA.
En 2019 nos comprometimos a adoptar un enfoque de IA ético. Los conocimientos de nuestros clientes sobre IA y el mercado han madurado, y también lo han hecho los detalles de nuestro enfoque. Nuestro compromiso con la inteligencia artificial ética refleja nuestros valores fundamentales, entre los que están la atención a nuestros empleados, el servicio de atención al cliente, la innovación y la integridad. En nuestro esfuerzo por desarrollar una inteligencia artificial responsable y fiable, nuestra aspiración es lograr los objetivos detallados a continuación.
En Workday, las personas son el centro de todo lo que hacemos y siempre respetamos los derechos humanos fundamentales. Diseñamos IA para que nuestros clientes y sus empleados puedan aprovechar oportunidades y centrarse en tareas relevantes. Nuestras soluciones respaldan la toma de decisiones humana, mejoran las experiencias de uso y dan a los usuarios control para decidir si aceptan las recomendaciones basadas en IA suministradas por nuestras soluciones.
Nuestras tecnologías están diseñadas para ayudar a reducir los errores y las tareas tediosas, a la vez que mejoran la productividad de los usuarios y la toma de decisiones. Nos centramos en mejorar y desarrollar las capacidades y las experiencias de las personas y utilizamos un enfoque en el que tiene cabida la intervención humana, a fin de permitir que el usuario final ejerza control sobre las decisiones finales.
La IA tiene el potencial de empoderar a las personas para trabajar de manera más inteligente y eficaz, e incluso para cambiar la naturaleza del trabajo. Nos interesamos por los efectos de nuestras soluciones de IA y trabajamos para maximizar su potencial positivo. Tratamos de proporcionar soluciones de IA que abordan retos del mundo real y potencian resultados positivos para nuestros clientes, sus empleados y las comunidades que compartimos.
Nuestro enfoque es razonado y cauteloso y únicamente desarrollamos soluciones de IA acordes con nuestros valores. En el entorno de la gestión de capital humano, por ejemplo, evitamos el desarrollo de tecnologías que permiten la supervisión intrusiva de la productividad. Procuramos crear soluciones de skills relevantes, que posibiliten experiencias más personalizadas, que sustenten el desarrollo de la carrera profesional y el crecimiento y que promuevan la movilidad interna. Aplicamos un programa de gobierno exhaustivo para poder ofrecer soluciones de IA innovadoras, fiables, seguras y robustas.
Workday valora la inclusión, la pertenencia y la equidad, así como la comunicación y la honestidad. Diseñamos y proporcionamos soluciones de IA actuando de manera responsable y ética para poder ofrecer recomendaciones justas. Sabemos que en el ciclo de vida de IA hay multitud de oportunidades de infiltración de sesgos. Por eso utilizamos un proceso de revisión basado en los riesgos para evaluar si nuestras soluciones de IA son susceptibles a consecuencias imprevistas y cómo se pueden gestionar esos riesgos.
Nuestro compromiso con una IA ética es un reflejo de nuestros valores fundamentales, entre los que están la atención a nuestros empleados, el servicio de atención al cliente, la innovación y la integridad.
Proporcionamos transparencia en nuestros modelos de IA ofreciendo a los clientes documentación que describe cómo están hechas nuestras soluciones de IA, cómo funcionan, se entrenan y se someten a examen, y cómo se supervisan mediante nuestras prácticas de prueba y evaluación continuas. Seguimos aprendiendo y mejorando mediante la exploración de estudios innovadores sobre algoritmos imparciales y explicables.
La protección y la privacidad de los datos son fundamentales para una IA digna de confianza. Los principios de privacidad de Workday se aplican a todos nuestros productos y servicios, incluidas nuestras tecnologías de IA. Nos adherimos a principios de buenos procesos de administración, gobierno de datos y privacidad desde el diseño. Respetamos la intervención del usuario y damos a nuestros clientes control para aceptar o no el uso de sus datos en nuestras soluciones de IA. El acceso a datos para crear nuestras soluciones de IA se somete a controles y auditorías. Nos centramos plenamente en nuestros clientes y las cambiantes necesidades de privacidad de sus empleados, mientras trabajamos para determinar el mejor modo de atenderlos.
Trabajamos con todo tipo de expertos multifuncionales para integrar esos principios a través de políticas claras y prácticas documentadas. Fieles a la integridad como uno de nuestros valores fundamentales, somos coherentes y cumplimos con nuestros compromisos. Nos basamos en estos principios de IA ética al abordar la evolución de las necesidades de nuestros clientes, innovando en el área de aplicaciones cloud en función del cambiante y complejo entorno reglamentario.
Solicitamos la participación de las autoridades federales, estatales y locales en EE. UU., de la Unión Europea y de otros gobiernos en todo el mundo para que apoyen enfoques normativos prácticos, basados en riesgos, que fomenten la confianza en la tecnología de IA y potencien la innovación. Mientras nuestro proceso de desarrollo sigue evolucionando para acoger nuevas mejores prácticas y marcos reglamentarios emergentes, mantenemos nuestro compromiso de proporcionar soluciones de IA dignas de confianza, que generen valor para nuestros clientes, la fuerza laboral y la sociedad.
La protección de los datos de nuestros clientes es una de las principales prioridades de Workday. Stephen Boyle, Chief Trust Officer de Workday, explica cómo la seguridad es parte de todo lo que hacemos.
En esta edición de "En conversación", hablamos con Rich Sauer, nuestro Chief Legal Officer y Head of Corporate Affairs. Rich habla de su filosofía de liderazgo, sus valores en el lugar de trabajo, su implicación en nuestros comités de pertenencia del empleado y una de sus pasiones extralaborales: la renovación de una casa de cien años.
Sayan Chakraborty, vicepresidente ejecutivo de productos y tecnología de Workday, ha sido nombrado miembro del National Artificial Intelligence Advisory Committee (NIAAC). Este comité asesorará al presidente Biden y la National AI Initiative Office de la Casa Blanca sobre diversas cuestiones relacionadas con la inteligencia artificial. Sayan nos da su opinión sobre la importancia de impulsar el desarrollo y la adopción de IA ética, y la creación de políticas eficaces al respecto.
Más lectura
El informe explica qué tecnologías son útiles para que los responsables de aplicaciones, finanzas y TI transformen sus empresas, y cuándo y cómo incluir esas tecnologías en su estrategia de ERP.
La Ley de IA del Parlamento Europeo sienta las bases para la adopción del primer marco regulador global de IA en el mundo. Conozca las últimas noticias del vicepresidente de Public Policy de Workday, Chandler C. Morse.
La conclusión de nuestro informe es que los líderes tecnológicos de todo el mundo se enfrentan a retos similares. Además, el estudio destaca cómo un tipo concreto de CIO, el "pionero de la IA", está llevando a su empresa hacia el mejor futuro posible con la inteligencia artificial.