n nuevo marco para diseñar algoritmos de aprendizaje automático ayuda a evitar que las máquinas inteligentes muestren un comportamiento indeseable, según informan los investigadores. El marco, que se probó en un sesgo y en un contexto sanitario, logra esta hazaña al trasladar la carga de evitar el comportamiento indeseable desde el usuario (que a menudo no es un informático) hasta el diseñador del algoritmo. Hacer algoritmos de "buen comportamiento" utilizando el nuevo marco no solo mejorará las herramientas de aprendizaje automático en general, sino que también podría allanar el camino para nuevas oportunidades de uso, en especial en aplicaciones donde el aprendizaje automático se consideraba demasiado arriesgado. Desde diagnósticos médicos hasta predicciones financieras, los algoritmos de aprendizaje automático (AA) se están convirtiendo en una herramienta cada vez más omnipresente. Dado su creciente dominio en tareas variadas, muchas de las cuales podrían afectar directamente a la calidad de vida, es fundamental asegurarse de que no exhiban un comportamiento indeseable, incluidos aquellos que podrían causar daño a los humanos. Se conocen ejemplos de algoritmos que muestran sesgos discriminatorios o que retrasan los diagnósticos médicos. Los enfoques estándar del AA requieren que los usuarios especifiquen y codifiquen restricciones en un algoritmo para evitar comportamientos no deseados. Sin embargo, muchos usuarios carecen del conocimiento del AA y de las estadísticas que se necesitan para hacerlo. Por esta razón, el uso seguro y responsable del AA puede resultar difícil en algunas aplicaciones críticas. Para abordar este problema, Phillip Thomas y sus colegas presentan un marco para diseñar algoritmos de AA que transfiere la carga desde el usuario hasta el diseñador. En lugar de que el usuario deba codificar las restricciones de comportamiento del algoritmo, una tarea que requiere un amplio conocimiento del dominio o análisis de datos adicionales, el enfoque de Thomas et al. facilita este proceso para el usuario, sin requerir un análisis de datos complejo adicional. Los autores demuestran los beneficios de su enfoque al diseñar algoritmos de AA y aplicarlos a ejemplos en equidad de género y gestión de la diabetes. Muestran que sus algoritmos excluyeron el comportamiento peligroso causado por los algoritmos de aprendizaje automático que son estándares en estos contextos.
###
Journal
Science