El rápido progreso y desarrollo de la inteligencia artificial (IA) está generando preocupaciones sobre sus aplicaciones de “doble uso” y los riesgos en la seguridad mundial. Desde los sistemas de armas autónomas hasta la tecnología de reconocimiento facial y los algoritmos de toma de decisiones, cada aplicación emergente de inteligencia artificial, como todo nuevo conocimiento, trae consigo cosas buenas y malas. Es esta naturaleza dual la que está generando enormes riesgos de seguridad, no solo para las personas y entidades en todas las naciones, sino también para el futuro de la humanidad.
La realidad es que los nuevos desarrollos de la IA podrían usarse tanto para fines beneficiosos como dañinos, cualquier algoritmo que pueda proporcionar aplicaciones comerciales importantes, también podría conducir a la producción de armas de destrucción masiva sin precedentes. Como resultado, los temores sobre la automatización de los procesos basados en inteligencia artificial están creciendo.
La semana pasada se dio un candente debate en los círculos científicos, debido a un artículo publicado en Nature Machine Intelligence. El artículo exploró qué sucedería si las herramientas de inteligencia artificial para el descubrimiento de fármacos se emplean para encontrar y diseñar toxinas letales. Como era de esperar, los resultados fueron inmediatos y sombríos. En menos de 6 horas de trabajo, el modelo generó 40.000 moléculas que se ubicaron dentro de las especificaciones de búsqueda dadas al software. En el proceso, la IA no solo ubicó al agente nervioso VX, sino también otros compuestos desarrollados por los ejércitos en la guerra química.
El momento de la publicación no podría ser peor: así como los temores de una guerra química se han intensificado con la invasión rusa a Ucrania, la idea de que podría haber miles de toxinas peores que VX y Novichok esperando a ser descubiertas con IA, asusta. La realidad es que esto no es ciencia ficción. Suponga que descubren una forma de enseñar a un sistema de inteligencia artificial a desarrollar armas químicas terroríficas. ¿Se debería publicar un artículo que describa cómo lo hizo? ¿O guardar esa información sabiendo que podría ser mal utilizada? Más aun, ¿Cuántos habrán considerado las posibilidades de su uso indebido?
Si bien las implicaciones del artículo son realmente aterradoras, no sorprenden. De hecho, las armas biológicas (y, en mucha menor medida, la guerra química) se han considerado la principal amenaza para la seguridad mundial durante más de dos décadas, siendo mucho mayor que la proliferación nuclear, que generalmente captura la atención de la gente. Los materiales y herramientas necesarios para producir armas biológicas son más accesibles y más baratos que los requeridos para las armas nucleares.
Una multitud de instituciones aseguran que existe un sistema casi cerrado para monitorear el movimiento de materiales y equipos empleados en la fabricación de armas nucleares, brindando a las agencias de inteligencia acceso rápido a información sobre los riesgos potenciales de proliferación de estas armas. Pero no hay nada similar en biología. Tal régimen no es posible para los laboratorios de investigación biológica, donde los reactivos y el equipo de laboratorio se fabrican en grandes cantidades y están ampliamente disponibles.
Ha habido una gran preocupación de que la biología sintética y, en particular, el desarrollo de herramientas de edición de ADN como CRISPR podrían conducir a un aumento exponencial de las amenazas de armas biológicas. Después de todo, tiene sentido. Su precisión, junto con un mayor uso, presagian un rápido aumento en la capacidad de los “malos” para inventar nuevos patógenos horribles que puedan afligir al mundo.
Los autores enfatizan que los científicos deben estar alertas a las implicaciones de doble uso de sus descubrimientos. “No ha habido previamente una discusión significativa en la comunidad científica sobre esta preocupación de doble uso en torno a la aplicación de IA para el diseño de nuevas moléculas, al menos no públicamente”, escriben. Por ejemplo, los virus y patógenos descubiertos no deberían publicarse hasta que no se tenga precisado el mecanismo de contención, en caso de su mal uso.
Un buen uso de estas aplicaciones de IA se evidenció con el desarrollo de las vacunas de vectores de adenovirus, como la vacuna Johnson & Johnson para la Covid-19. Esta se diseñó tomando un virus del resfriado común, editándolo para que no pudiera enfermar al huésped y cambiando un poco el código genético del virus para reemplazarlo con la proteína de pico de la Covid-19, de manera que el sistema inmunológico aprendiera a reconocerlo. Ese es un trabajo increíblemente valioso y las vacunas desarrolladas con estas técnicas han salvado vidas. Pero esta tecnología también podría utilizarse para “camuflar” patógenos y hacerlos indetectables por el sistema inmunológico. Por ello los expertos advierten sobre los riesgos de doble uso: esta investigación también podría ser útil para los programas de armas biológicas.
La investigación de inteligencia artificial tiene cada vez más sus propias preocupaciones de uso dual. Cualquier sistema que sea lo suficientemente poderoso para hacer las cosas que se quieren como inventar nuevos medicamentos, planificar procesos de fabricación o diseñar nuevas máquinas, lo es también para inventar toxinas mortales, planificar procesos de fabricación con efectos secundarios catastróficos o diseñar máquinas que tengan fallas internas que ni siquiera entendamos.
Los investigadores indicaron que los expertos en seguridad les aconsejaron que ocultaran algunos detalles de cómo lograron exactamente sus resultados, para hacer las cosas un poco más difíciles a cualquier “tipo malo” que busque seguir sus pasos. El equipo que publicó el reciente artículo reflexionó mucho sobre estas preocupaciones relacionadas con el “riesgo de la información”, reflexión que toda la comunidad científica debería considerar.
***
Las opiniones expresadas en esta sección son de entera responsabilidad de sus autores.
Del mismo autor: Los edulcorantes vuelven a ser noticia