La inteligencia artificial (IA) es una tecnología que llegó para transformar nuestros días. Una tecnología que, dependiendo de la persona que ese detrás de ella, tiene el poder de generar un efecto tan positivo como negativo. Partiendo con información del estudio, se desarrolló una inteligencia artificial que en menos de seis horas fue capaz de sugerir 40.000 armas nucleares.
La inteligencia artificial
Publicado en la revista Natura, el estudio revela la desventaja que las nuevas tecnologías como la IA pueden ocasionar. El estudio se enfocó detectar el efecto contrario que podría ocasionar este tipo de tecnologías desarrolladas para el descubrimiento de fármacos.
Los autores enfatizan sobre la facilidad que tienen estos modelos de ser modificados y conseguir un efecto contrario al objetivo original. The Verge entrevistó a Fabio Urbina, autor principal del estudio, y dijo que recibieron una invitación para hablar del aprendizaje automático y cómo este puede ser utilizado en su propio espacio.
Urbina señaló que descubrieron lo fácil que es cambiar el objetivo del aprendizaje automático con tan solo girar un interruptor. Para contextualizar esta situación nos comparte un ejemplo; si en lugar de mejorar la predicción de la toxicidad para así evitarla, podemos decirle a la inteligencia artificial que busque el efecto contrario.
El descubrimiento de las armas bioquímicas
El equipo tiene a su disposición un conjunto de datos de moléculas que se probaron durante varios años con el objetivo de ver si son o no tóxicas. Se centraron en una en particular denominado VX, un inhibidor que se conoce como acetilcolinesterasa. Este elemento puede ser letal al impedir que el diafragma o los músculos de los pulmones se muevan, provocando que se paralicen.
El objetivo original, era hacer que la inteligencia artificial buscará algo parecido al agente nervioso VX, así que el modelo comenzó a predecir todas las moléculas. Las moléculas encontradas tenían gran parecido a VX como algunos agentes de guerra química. Algunos resultaron ser más tóxicos que el VX.
Para cerrar, Urbina comparte que fueron ingenuos al pensar en el posible mal uso de su oficio, donde su objetivo siempre fue el de evitar características moleculares que pudieran inferir con las numerosas clases de proteínas esenciales en a vida humana.
