image: Vea un breve vídeo de preguntas y respuestas sobre esta investigación en YouTube.
Credit: American Chemical Society
DENVER, 18 de agosto de 2024 — La inteligencia artificial (IA) ha explotado en popularidad. Impulsa modelos que nos ayudan a conducir vehículos, revisar correos electrónicos e incluso diseñar nuevas moléculas para medicamentos. Pero al igual que un ser humano, es difícil leer la mente de la IA. La IA explicable (XAI), un subconjunto de la tecnología, podría ayudarnos a hacer justamente eso justificando las decisiones de un modelo. Y ahora, los investigadores están usando la XAI no solo para examinar más de cerca los modelos predictivos de IA, sino también para profundizar más en el campo de la química.
Los investigadores presentarán sus resultados en la reunión de otoño de la American Chemical Society (ACS). La ACS Fall 2024 es una reunión híbrida que se celebra de manera virtual y presencial del 18 al 22 de agosto; cuenta con unas 10 000 presentaciones sobre diversos temas científicos.
La gran cantidad de usos de la IA la ha convertido en casi omnipresente en el panorama tecnológico actual. Sin embargo, muchos modelos de IA son cajas negras, lo que significa que no está claro exactamente qué medidas se toman para producir un resultado. Y cuando ese resultado es algo parecido a una posible molécula de un fármaco, no entender los pasos podría despertar el escepticismo tanto con los científicos como con el público. “Como científicos, nos gusta la justificación”, explica Rebecca Davis, profesora de química de la Universidad de Manitoba. “Si podemos encontrar modelos que ayuden a comprender mejor cómo la IA toma decisiones, podría hacer que los científicos se sientan más cómodos con estas metodologías”.
Una manera de proporcionar esa justificación es con la XAI. Estos algoritmos de aprendizaje automático pueden ayudarnos a entender cómo la IA toma decisiones. Aunque la XAI puede aplicarse en diversos contextos, la investigación de Davis se centra en aplicarla a modelos de IA para el descubrimiento de fármacos, como los utilizados para predecir nuevos candidatos a antibióticos. Teniendo en cuenta que se pueden seleccionar miles de moléculas candidatas y rechazarlas para aprobar solo un fármaco nuevo (y que la resistencia a los antibióticos es una amenaza continua para la eficacia de los fármacos existentes) los modelos de predicción exactos y eficientes son fundamentales. “Quiero usar la XAI para entender mejor qué información necesitamos para enseñar química informática”, dice Hunter Sturm, estudiante de posgrado en química en el laboratorio de Davis, quien presenta el trabajo en la reunión.
Los investigadores comenzaron su trabajo alimentando bases de datos de moléculas conocidas de fármacos en un modelo de IA que predeciría si un compuesto tendría un efecto biológico. Luego, utilizaron un modelo de la XAI desarrollado por el colaborador Pascal Friederich en el Instituto de Tecnología de Karlsruhe de Alemania para examinar las partes específicas de las moléculas del fármaco que condujeron a la predicción del modelo. Esto ayudó a explicar por qué una molécula concreta tenía actividad o no, según el modelo, lo cual ayudó a Davis y Sturm a entender lo que un modelo de IA podría considerar importante y cómo crea categorías una vez que ha examinado muchos compuestos diferentes.
Los investigadores se dieron cuenta de que la XAI puede ver cosas que los humanos podrían haber pasado por alto; puede considerar muchas más variables y puntos de datos a la vez que un humano. Por ejemplo, al examinar un conjunto de moléculas de penicilina, la XAI encontró algo interesante. “Muchos químicos piensan que el núcleo de la penicilina es lo más importante de la actividad antibiótica”, dice Davis. “Pero la XAI observó algo diferente”. Identificó las estructuras unidas a ese núcleo como el factor crítico en su clasificación, no el núcleo en sí mismo. “Puede ser por eso que algunos derivados de la penicilina con ese núcleo muestran poca actividad biológica”, explica Davis.
Además de identificar estructuras moleculares importantes, los investigadores esperan utilizar la XAI para mejorar los modelos de IA predictivos. “La XAI nos muestra qué algoritmos informáticos definen como importantes para la actividad antibiótica”, explica Sturm. “Luego podemos usar esta información para entrenar a un modelo de IA en lo que se supone que está buscando”, añade Davis.
A continuación, el equipo colaborará con un laboratorio de microbiología para sintetizar y analizar algunos de los compuestos que los modelos de IA mejorados predicen que funcionarían como antibióticos. En última instancia, esperan que la XAI ayude a los químicos a crear mejores compuestos antibióticos, o tal vez compuestos completamente diferentes, que podrían ayudar a detener la marea de patógenos resistentes a los antibióticos.
“La IA causa mucha desconfianza e incertidumbre en las personas. Pero si podemos pedir a la IA que explique lo que está haciendo, hay más probabilidades de que esta tecnología sea aceptada”, dice Davis.
Sturm añade que cree que las aplicaciones de IA en química y el descubrimiento de fármacos representan el futuro del campo. “Alguien necesita sentar las bases. Eso es lo que espero estar haciendo”.
La investigación fue financiada por la Universidad de Manitoba, los Institutos Canadienses de Investigación en Salud y la Alianza de Investigación Digital de Canadá.
El domingo 18 de agosto se publicará Pregunta y respuesta con el investigador. Los reporteros pueden acceder a los vídeos durante el período de retención, y una vez que se levante el embargo, las mismas URL permitirán al público acceder al contenido. Visite el programa de la ACS Fall 2024 para obtener más información sobre esta presentación, “Using Explainable Artificial Intelligence to explore the relationship between structure and activity,” y otras presentaciones científicas.
###
American Chemical Society (ACS, por sus siglas en inglés) es una organización sin ánimo de lucro creada por el Congreso de los Estados Unidos. La misión de ACS es promover la química en general y a sus profesionales en beneficio tanto de nuestro planeta como de todos sus habitantes. La Sociedad es líder mundial en la promoción de la excelencia para la enseñanza de las ciencias, y el acceso a la información y la investigación relacionadas con la química a través de sus múltiples soluciones de investigación, publicaciones revisadas por expertos, conferencias científicas, libros electrónicos y el periódico semanal de noticias Chemical & Engineering News. Las revistas de ACS se encuentran entre las más citadas, fiables y leídas de la literatura científica; sin embargo, la propia ACS no realiza ninguna investigación química. Como líder en soluciones de información científica, su división de CAS colabora con innovadores de todo el mundo para acelerar los avances mediante la organización, la conexión y el análisis del conocimiento científico mundial. Las oficinas principales de ACS están en Washington D. C. y en Columbus, Ohio.
Los periodistas registrados pueden suscribirse al portal de noticias para periodistas de ACS en EurekAlert! para acceder a comunicados de prensa públicos y retenidos. Para consultas de los medios, comuníquese con newsroom@acs.org.
Nota para los periodistas: Notifique que esta investigación se presentó en una reunión de la American Chemical Society. La ACS no realiza investigaciones, sino que publica y difunde estudios científicos revisados por expertos.
Síganos: X, antes Twitter | Facebook | LinkedIn | Instagram
Title
Using explainable artificial intelligence to explore the relationship between structure and activity
Abstract
Antibiotic resistance is a threat to society and novel antibiotics are needed in order to combat this issue. To accelerate antibiotic discovery, researchers have begun to use Machine Learning (ML) in the identification of new antibiotics. However, the downfall of many ML methods is that they are black boxes, meaning we know which compounds are identified without knowing why the algorithm has selected said compounds. This research aims to better understand ML methods in antibiotic discovery by expanding upon our previous work using eXplainable Artificial Intelligence (XAI) to now help understand what features of small molecules computers deem important for the prediction of antibiotic activity. XAI, as the name suggests, is a type of ML method wherein the output of the model contains an explanation as to why the results are classified in the way they are. Using publicly available databases and models, libraries of compounds with known (in)activity have been studied and explanations analyzed as to why our model considers a small molecule as having antibiotic activity or not. Alternatively, once it is known what features are important can a ML model be trained to accurately predict multiple classes of antibiotics.