Sus decisiones y la inteligencia artificial

por Maycol Bermeo · 13 abril, 2022

Sus decisiones y la inteligencia artificial

La urdiembre de la tecnología denominada “inteligencia artificial” está cambiando el mundo que conocemos a un ritmo frenético; su impacto es y será cada vez más pronunciado, pues trae consigo consecuencias imprevisibles y altera los comportamientos de nuestras sociedades.
Las tecnologías de comunicación e información se alimentan de bases de datos que tienen las mejores intenciones, pero pueden contener sesgos que perpetúan estereotipos y condenan a las personas a tratos discriminatorios. De hecho, su uso se ha generalizado alrededor del mundo y, cada día, asistimos a la creación de nuevas iniciativas que intentan asistir a las personas en su vida diaria, para reducir los tiempos y demoras implícitos en los trámites y exigencias de las burocracias tradicionales, facilitar las compras, encontrar empleo y hasta ofrecer herramientas para la administración de la salud y la justicia.

En los modelos matemáticos usados, los datos suministrados pueden generar barreras infranqueables que hacen imposible que un ciudadano normal, de cualquier país, pueda revertir estos criterios impuestos por los programadores.
Tuve la oportunidad de conocer a la profesora de la Universidad de Harvard, Cathy O’Niel, que en su libro “Las Armas de Destrucción Matemática” revela que las decisiones que afectan nuestras vidas las toman máquinas y no seres humanos. El obtener un crédito, ingresar a una universidad, adquirir un seguro de salud, y muchos otros, son ejemplos en donde los modelos matemáticos están siendo usados hoy en día, sin regulación, y resultan imposibles de revertir cuando están errados. Las líneas rojas impuestas son cual murallas chinas de las cuales el ciudadano no está consciente y carece de recursos para cambiar.