Algoritmos discriminadores

Los protagonistas son integrantes de un equipo de investigadores de  la Universidad de California, el Hospital General de Massachusetts, la Universidad de Chicago y el Hospital Brigham and Women’s, de Boston.

Publicaron un estudio en la revista Science que puede llegar a helar la sangre, literalmente, claro.

Lograron determinar cómo el algoritmo más extendido para evaluar la gravedad de los pacientes en atención primaria discrimina a la población negra de los Estados Unidos.

La razón de esta discriminación, afirman, probablemente pase desapercibida a los propios médicos que la utilizan.

Millones de personas no disponen de cobertura médica en ese país.

Deben recurrir a un sistema que las clasifica con distintos grados de gravedad, de acuerdo a su dolencia.

Este determina finalmente quiénes deben recibir atenciones especiales.

Y eso conlleva a disponer de recursos habilitados para ese propósito.

El problema que disparó la investigación es la determinación de la gravedad de cada paciente.

Y ella queda a cargo algoritmos de salud.

Evaluación de algoritmos: Estudio sobre prejuicios raciales en un algoritmo utilizado para gestionar la salud
Dissecting racial bias in an algorithm used to manage the health of populations https://t.co/5jD1vXuS7R

— Iñaki Vicuña (@vicuina) October 28, 2019

Ese programa debe determinar los factores de riesgo derivados de la genética, los hábitos o la fisiología de cada individuo.

Pero parece que no es tan así.

Los investigadores revelaron que el mecanismo es muy diferente.

Uno de los parámetros informativos a los que se da mayor relevancia es precisamente el gasto que hace el proveedor de atención primaria en tratar a ese paciente.

El algoritmo considera que alguien con una enfermedad que requiera mayor atención acudirá al médico con más asiduidad.

El problema es que, precisamente por vivir a menudo en entornos desfavorecidos y tener una peor posición económica, las personas afroamericanas pueden contar con dificultades extra para acceder al sistema de salud.

Según el estudio publicado en Science, el resultado es que se termina asignando una mayor gravedad a pacientes blancos, en comparación con negros en su mismo estado de salud.

Según explican, si se cambiara la etiqueta con la que se entrena el algoritmo y se eliminara esta disparidad se pasaría de un 17,7% de pacientes afroamericanos recibiendo una atención adicional a un 46,5%.

Los algoritmos son buenos, pero si se los programa correctamente

El inconveniente es cómo se los programa.

Si los algoritmos no son diseñados adecuadamente terminan fomentando desigualdades.

Esto se observa también en los que se usan para la selección de personal.

En los Estados Unidos fueron reportados casos de discriminación en la selección de mujeres, en búsquedas para empleos de altos sueldos.

Incluso los programas de reconocimiento facial también mostraron problemas para identificar a personas negras.

Se infiere que, esta dificultad, tiene que ver con un entrenamiento incorrecto de los algoritmos.