Los modelos predictivos no son necesariamente de inteligencia artificial; los usamos todo el tiempo para tomar decisiones, ya sea con la ayuda de analistas, nuestro propio aprendizaje o mediante estadísticas. En el mundo de la IA, la eficacia de un modelo predictivo se mide mediante varias métricas, siendo dos de las más importantes la precisión y el recall. Para comprender cómo estos conceptos influyen tanto en la tecnología como en la toma de decisiones políticas, es fundamental entender primero qué significan y cómo se aplican.
La precisión es una medida de cuántas de las predicciones positivas de un modelo son realmente correctas. Es decir, de todas las veces que el modelo dice que algo va a suceder, cuántas veces realmente sucede. Por otro lado, el recall mide cuántas de las instancias realmente positivas fueron identificadas por el modelo, o en otras palabras, cuántas veces el modelo encuentra correctamente los casos que quería identificar.
Estos conceptos están ampliamente usados en todas las ramas de la ciencia. Por ejemplo, en medicina, para evaluar la eficacia de un estudio de diagnóstico, se utilizan medidas similares llamadas sensibilidad (equivalente a recall) y especificidad (equivalente a precisión). La sensibilidad indica cuántos de los casos reales de la enfermedad son correctamente identificados por el estudio, mientras que la especificidad mide cuántos de los resultados negativos son correctos o sea no detectar un caso positivo cuando en realidad sí lo era. En estadística, se habla de errores tipo I y tipo II, que corresponden a los falsos positivos y falsos negativos respectivamente. Un error tipo I ocurre cuando se rechaza una hipótesis verdadera (equivalente a baja precisión), y un error tipo II ocurre cuando no se detecta una hipótesis falsa (equivalente a bajo recall).
Dependiendo del contexto y la aplicación del modelo predictivo, puede ser más beneficioso priorizar una métrica sobre la otra. Por ejemplo, en un modelo de predicción de cáncer, preferimos centrarnos en el recall. Esto es porque, ante la mínima sospecha, es crucial que el paciente consulte a su médico para evitar pasar por alto un posible caso de cáncer. En contraste, si estamos desarrollando un sistema de detección de spam en correos electrónicos, es más importante centrarse en la precisión para asegurar que los correos legítimos no sean marcados incorrectamente como spam y no se nos llene la casilla de correo con basura.
No sólo los modelos de IA utilizan estas métricas, sino también los modelos predictivos empleados por analistas políticos, fuerzas policiales y empresas. En cualquier caso, el peligro es no medir adecuadamente el desempeño de estos modelos.
Un caso ilustrativo es el del presidente Nayib Bukele en El Salvador. Su administración enfrentó altos índices de violencia y adoptó un enfoque de alto recall, donde ante la mínima sospecha, se detenía a individuos para reducir la violencia. Esta estrategia puede ser efectiva a corto plazo, ya que el indicador de violencia baja rápidamente. No obstante, muchos inocentes pueden ser detenidos injustamente.
Un ejemplo más reciente y cercano es el movimiento de género en Argentina, donde la sociedad presiona al estado para que se tomen acciones drásticas contra la violencia de género. Ante la exigencia de que no ocurra ni un caso más de feminicidio, se prioriza el recall, tomando acciones que, aunque necesarias para proteger a las víctimas, pueden generar injusticias al acusar o detener a personas basándose en sospechas, invirtiendo la carga de la prueba.
Sin embargo, al observar las estadísticas oficiales del Sistema Nacional de Información Criminal (SNIC) de Argentina para 2022, vemos que el 82,3% de las víctimas de homicidios dolosos fueron hombres, mientras que las mujeres representaron el 17,7%. En términos de suicidios, los hombres representaron el 78,9% de las víctimas. Estos datos indican que la violencia afecta a hombres y mujeres de diferentes maneras y que enfocarse únicamente en la violencia de género puede ser una visión sesgada cuando hay otros problemas graves que también requieren atención.
Es importante reconocer que no existe una medida equivalente de violencia de género contra los hombres, lo cual introduce un sesgo en la percepción y abordaje de la violencia. Los datos muestran que los hombres son las principales víctimas de homicidios y suicidios, por lo que las políticas públicas deben ser inclusivas y abordar todas las formas de violencia de manera equilibrada.
Así como en la inteligencia artificial, en la administración pública y en las políticas empresariales, el equilibrio entre precisión y recall es delicado y crucial. Los modelos predictivos deben ser medidos adecuadamente con las herramientas adecuadas para evitar decisiones equivocadas que pueden tener consecuencias significativas.
La búsqueda de soluciones efectivas debe considerar cuidadosamente las implicaciones de cada enfoque. Priorizar una métrica sobre la otra puede tener consecuencias significativas, y es responsabilidad de los líderes, analistas y científicos encontrar el equilibrio adecuado para servir mejor a la sociedad. Si en todos los campos científicos entendemos la importancia de medir estos indicadores y de tratar de alcanzar un punto intermedio, ¿por qué no aplicamos lo mismo en las políticas de estado? Sería beneficioso poder medir con indicadores concretos, públicos y transparentes, en lugar de oscilar de un extremo al otro.
Seguí a El Economista en Google
Agreganos a tus medios preferidos.
+ Agregar
