La integración de valores para un modelo de IA responsable

La revolución tecnológica y social que se vive actualmente ha generado diversas preocupaciones sobre las consecuencias de implementar nuevos sistemas de inteligencia artificial en las empresas y su uso ético. Para no perder el control sobre la tecnología, es necesario que ésta se encuentre alineada a los valores de la organización.

Y es que la IA está a nuestro alrededor y hacemos uso de ella prácticamente a diario (aunque no la percibamos): muchas aplicaciones móviles la emplean, los asistentes de voz no funcionarían sin ella y las recomendaciones hechas por las plataformas de entretenimiento (por ejemplo, Spotify, Apple Tv, Netflix, etc.) se generan gracias a algoritmos de IA.

Por otro lado, las empresas han encontrado que la inteligencia artificial brinda ventajas bastante alentadoras para su negocio. Las investigaciones realizadas por McKinsey entre 2017 y 2018 indican que las empresas que incorporaron al menos una capacidad de IA a sus procesos de negocios crecieron más del 50%.

Sin embargo, y como en cualquier avance tecnológico, “no todo lo que brilla es oro” pues se han generado varios cuestionamientos. La preocupación más común, y de la cual ya hemos hablado en el blog, es la pérdida de trabajos a causa de la automatización; otra inquietud es la violación a la privacidad o quién asumiría la responsabilidad si un sistema basado en IA toma una decisión equivocada.

A medida que la inteligencia artificial se desempeña como una herramienta para el desarrollo de las empresas, es necesario que las compañías usen los sistemas de IA de forma responsable para evitar dañar la reputación de la marca, a sus trabajadores y clientes o incluso a la misma sociedad.

El estudio Responsible AI Diagnostic realizado por PwC en 2019, sondeó a cerca de 250 CEOs y altos directivos de empresas y encontró que, en las compañías donde actualmente utilizan o prueban soluciones de IA, sólo el 38% piensan que está alineada con sus valores organizacionales y únicamente el 25% prioriza las implicaciones éticas de una solución de IA antes de invertir en ella.

Cómo integrar los valores corporativos a la IA

Los valores organizacionales funcionan como una guía importante para la aplicación y desarrollo de la inteligencia artificial para empresas, pero llevarlos a la práctica no es tan simple. McKinsey sugiere que, para ayudar a los equipos de análisis a construir y utilizar la IA de manera responsable, se debe:

• Aclarar cómo se plasman los valores en la selección de las aplicaciones de IA. Pueden recurrir a ejemplos que muestren cómo cada valor de la empresa se plasma en elecciones de la vida real; así, los equipos de analítica pueden basarse en ellos al programar los procesos (y las decisiones) que deberían automatizarse.

• Brindar orientación sobre definiciones y criterios de medición para analizar la IA. Esto ayuda a detectar prejuicios y garantizar la equidad. Para ello, las empresas deben dejar en claro cuáles son sus valores y objetivos en el contexto de la IA e incentivar un proceso colaborativo a nivel interno para definir criterios de medición.

• Comunicar la jerarquía de los valores corporativos. Los desarrollos de IA siempre implican priorizar factores, por ejemplo, la precisión o la transparencia del sistema; por lo tanto, es necesario el criterio empresarial para ayudar a sus equipos a tomar las mejores decisiones posibles al programar los sistemas.

<< Pasos para incorporar correctamente la Inteligencia Artificial en la empresa >>

Además, McKinsey propone una serie de preguntas que los equipos de análisis deben plantearse en ciertas áreas clave:

• Adquisición de datos: ¿Estamos alineados con las expectativas de nuestros grupos de interés acerca del uso de sus datos?
• Pertinencia de los datos: ¿Los datos reflejan poblaciones reales? ¿Incluyen datos pertinentes para grupos minoritarios?
• Equidad de los resultados de la IA: ¿La equidad es tomada en cuenta en cada etapa del proceso de desarrollo, incluyendo la selección de datos, la construcción y el monitoreo del modelo?
• Cumplimiento regulatorio y compromiso: ¿Compartimos nuestro conocimiento técnico y comercial cuando se desarrollan nuevas normas regulatorias?
• Comprensión del modelo de IA: ¿Estamos utilizando el modelo más simple y las técnicas más recientes?

La integración de valores en la implementación de inteligencia artificial puede evitar que estos sistemas cometan daños no intencionados que afecten gravemente a la empresa o a sus integrantes, por ejemplo, cuando los sistemas de selección de personal presentan sesgos raciales o de género.

¿Qué valores tiene tu organización? ¿Crees que mejorarían tu modelo de IA? Deja tu comentario en la parte de abajo y suscríbete a mi blog para conocer más temas sobre inteligencia artificial para empresas.