CIENTÍFICOS LLEGAN A UN ACUERDO PARA REGULAR LA IA ANTE UNA POTENCIAL CATÁSTROFE DESENCADENADA POR ARMAS BIOLÓGICAS

Publicado en Píldora Mutante

Un grupo de científicos de distintas partes del mundo han llegado a un acuerdo y firmado un documento con la intención de impedir que se puedan desarrollar armas biológicas con la ayuda de la Inteligencia Artificial (IA).

En 2023 el director general de la start up de Inteligencia Artificial Anthropic, Dario Amodei, advirtió al Congreso de Estados Unidos acerca de la necesidad para establecer normas claras con la intención de controlar la IA. Entre los augurios distópicos que se esgrimieron en el Congreso se señaló el potencial uso que los terroristas podrían darle a la IA con la intención de crear armas biológicas.

Este nuevo acuerdo titulado “IA responsable x biodiseño” es un documento que recopila principios y valores que deberían aplicarse en los estudios de la IA con el objetivo de erradicar los peligros de la creación de armas biológicas de gran alcance. El documento, firmado por 144 científicos, está dirigido a los investigadores de sistemas de IA para la predicción y diseño de estructuras de proteínas.

El documento para regular la Inteligencia Artificial y evitar una catástrofe biológica, reza lo siguiente:

“Los avances en inteligencia artificial (IA) están creando oportunidades sin precedentes para la investigación en ciencias biológicas, incluso al permitir el diseño de moléculas biológicas funcionales, especialmente proteínas. Esta aplicación de la IA para el diseño de proteínas tiene un inmenso potencial para mejorar nuestra comprensión del mundo y ayudar a abordar algunos de los desafíos más apremiantes de la humanidad al permitir respuestas rápidas a brotes de enfermedades infecciosas, curar numerosas enfermedades, desbloquear fuentes sostenibles de energía y ayudar a mitigar el cambio climático y más (…) Si bien reconocemos que la mayoría de las tecnologías avanzadas pueden aprovecharse para bien o usarse deliberadamente de manera indebida para causar daño, nos abstendremos de realizar investigaciones que puedan provocar daños generales o permitir el uso indebido de nuestras tecnologías”.

IA avanzadas como la de AlphaFold tienen el potencial para ser utilizadas como armas biológicas en el futuro. Esto debido a que los sistemas de aprendizaje profundo tienen la capacidad para simular interacciones entre patógenos, así como la suficiencia para analizar y optimizar la dispersión de agentes biológicos. Por lo tanto, contar con una normativa que regule la IA parece ser una medida ya no sólo necesaria sino que urgente.