Poder retocar el algoritmo: más elegido, apenas menos certero
Al predecir el rendimiento de estudiantes en matemática, con supervisión el algoritmo se eligió 7 puntos porcentuales más y el error fue algo mayor.
Cómo elaboramos estas lecturas
La idea clave
Las personas preferían al algoritmo aunque acertaba parecido que una estimación humana. Poder ajustarlo sumó preferencia y restó precisión.
El estudio, en palabras claras
¿Qué pasa cuando una persona puede modificar una recomendación automática antes de usarla? En un experimento, los participantes predijeron el rendimiento de estudiantes de secundaria en una prueba de matemática y compararon recomendaciones de un algoritmo con estimaciones humanas.
Muchas personas prefirieron la recomendación del algoritmo, aun cuando su precisión media era parecida a la humana. Con la opción de revisarla y ajustarla, la preferencia fue todavía mayor, pero el resultado promedio perdió algo de precisión.
Las personas intervinieron menos en las recomendaciones con errores más grandes y, cuando lo hicieron, corrigieron menos esos errores. Tener la última palabra no garantizó una mejor predicción en esta tarea.
Qué encontraron
- Muchas personas eligieron la predicción del algoritmo, aunque la humana tenía una precisión media parecida.
- Con la opción de revisar y ajustar, la preferencia fue mayor, pero las predicciones finales fueron un poco menos precisas que al delegar.
- Intervinieron menos ante los errores grandes y, cuando lo hicieron, los corrigieron menos.
Para pensar
Si tenés la última palabra sobre una recomendación automática, preguntate qué dato concreto justificaría cambiarla.
Cómo lo investigaron
Experimento en línea con 292 participantes que predijeron el rendimiento de estudiantes de secundaria en matemática. Un grupo delegó la decisión y otro pudo revisar recomendaciones de un algoritmo o de personas, con precisión media parecida. Fue una tarea concreta de pronóstico escolar, no una prueba de decisiones de otros tipos.
Qué no permite concluir
- Tarea experimental acotada, participantes jóvenes y principalmente universitarios, recomendaciones cuidadosamente igualadas en calidad y un dominio de predicción educativa. Los autores señalan que el resultado podría cambiar con supervisores expertos, otros datos disponibles o decisiones diferentes.
- Que la supervisión humana siempre reduzca la precisión, que todo algoritmo supere a los profesionales, o que los resultados se trasladen directamente a decisiones laborales, legales, médicas o de crédito.
El estudio original
Putting a human in the loop: Increasing uptake, but decreasing accuracy of automated decision-making
Fuente bajo CC BY 4.0. Adaptación y explicación en español de PaperFlow, con asistencia de IA. El texto se reorganizó para divulgación; no es el artículo íntegro ni implica aval de sus autores.
Una investigación no representa por sí sola el consenso de un área. Contenido educativo: no sustituye asesoramiento profesional. Informar un posible error.
