¿IA viola los derechos de los ciudadanos?

El entusiasmo y la decepción por la inteligencia artificial se ha presentado desde sus inicios, y aunque hoy en día los avances son mucho más prometedores, actualmente se vive un desencanto con esta tecnología pues se piensa que está transgrediendo el derecho a la privacidad de las personas, y en esta ocasión revisaremos los porqués.

Expectativas sin cumplir

De acuerdo con el Technology Quarterly de The Economist, la IA es una tecnología que se ha vislumbrado desde 1958 con Perceptron, una computadora con menos poder que un control remoto actual, la cual mostró los primeros indicios de machine learning al discernir entre tarjetas que habían sido impresas a la izquierda de las impresas a la derecha, esto sin una programación directa.

La armada de Estados Unidos -que financió el trabajo- esperaba que Percepton fuera el embrión de una computadora capaz de caminar, hablar, ver, escribir y tener conciencia de su propia existencia. Por supuesto, estas altas expectativas no se cumplieron.

Desde ese entonces, cada cierto tiempo vuelve a surgir una nueva ola de entusiasmo por los avances que la Inteligencia Artificial puede lograr, seguida por un período de desilusión porque sus límites se hacen evidentes.

En entradas de blog anteriores hemos visto que este nuevo descenso vuelve a estar presente, ya que 7 de cada 10 CEOs ven poco impacto en los proyectos e inteligencia artificial para empresas que han implementado.

Además, un informe elaborado por Gartner en 2019 reveló que el 2020 posiblemente sería el año donde decaería el entusiasmo por esta tecnología, y con la pandemia del COVID-19 esta afirmación se hace cada vez más certera debido a que, de forma inmediata, la tecnología no ha hecho una gran diferencia para combatir la enfermedad.

<< IA: una solución para combatir al COVID-19 y futuras pandemias >>

Al límite de la legalidad

Además de las limitantes técnicas que presenta actualmente la tecnología, otro factor que obstaculiza la IA es el “mal uso” que se le ha dado. Cuando las empresas o los gobiernos se dejan guiar por su emoción y adoptan la inteligencia artificial de manera apresurada sin establecer objetivos claros, por lo que en ocasiones afectan a terceros o incluso quebrantan la ley.

Ejemplos claros de ello se retratan en el Technology Quarterly:

• El caso de SyRI, un sistema impulsado por IA diseñado para detectar fraudes fiscales y de beneficios sociales, el cual accedía a bases de datos de varios departamentos gubernamentales para rastrear patrones que revelaran malversaciones. El 5 de febrero de 2020 un tribunal holandés dictaminó que SyRI era ilegal porque no existía equilibrio entre su función de combatir fraudes y proteger la privacidad de los ciudadanos.
• Un estudio realizado en 2019 por la Facultad de Derecho de la Universidad de Nueva York y el Instituto AI Now examinó algoritmos de vigilancia predictiva, estos sistemas les dicen a las fuerzas policiales dónde deben aumentar la vigilancia según las tendencias de los datos históricos de delitos. Los investigadores encontraron que el algoritmo era entrenado con sesgos raciales, lo cual reforzaba el comportamiento racista de los policías.
• China ha implementado el reconocimiento facial dentro de su plan de control policial, en los gobiernos democráticos estas acciones transgreden los derechos de los ciudadanos, e incluso una encuesta dentro del país asiático reveló que el 74% de los entrevistados no está contento con el uso creciente de esta tecnología para la identificación.

Gigantes tecnológicos como Facebook o Google están tratando de enfrentar estas problemáticas respecto a la seguridad y privacidad de sus usuarios. The Economist cita a Brad Smith, presidente de Microsoft, quien ha dicho que en lugar de preguntar qué puede hacer IA, los humanos deben pensar qué debería hacer.

A pesar de su gran poder, la inteligencia artificial presenta grandes limitantes técnicas, políticas y sociales, por ello, es importante que las conozcas antes de implementarla en tu empresa: no te dejes llevar por el entusiasmo de esta nueva tecnología y define qué es lo que quieres lograr con ella.

¿Qué otros retos crees que enfrenta la inteligencia artificial para empresas? Deja abajo tu opinión y comenta qué reflexiones te ha dejado esta serie de reseñas que hemos abordado en el blog sobre la IA y sus límites.