La investigación demuestra cómo los sistemas de bioseguridad fallan al detectar variantes de proteínas peligrosas generadas por inteligencia artificial, lo que abre la puerta a un potencial uso malicioso, o accidental, que podría llegar a tener consecuencias desastrosas.

Un estudio pionero recién publicado en Science acaba de poner el dedo en la llaga de una revolución quizá poco conocida, pero que tiene el potencial de ser extremadamente peligrosa: la ingeniería de proteínas.

Liderada por Bruce Wittmann, de Microsoft, la investigación acaba de confirmar algo que ya se sospechaba y que supone un grave riesgo para todos: los sistemas de cribado de bioseguridad fallan al detectar variantes de proteínas peligrosas generadas por la propia IA, lo cual abre la puerta a un potencial uso malicioso, o accidental, que podría llegar a tener pésimas consecuencias.

Mientras la IA avanza y cobra cada vez más protagonismo en la creación biológica, las defensas humanas diseñadas para contener ese poder demuestran ser peligrosamente frágiles.

El mensaje de Wittmann y sus colegas resulta claro y contundente: en el campo del diseño de proteínas, la IA ha superado a sus guardianes.

El estudio, fruto de un inédito ejercicio de Equipo Rojo de IA, que reunió a gigantes tecnológicos como Microsoft, la industria de la síntesis de ADN y a expertos en bioseguridad, confirmó lo que muchos ya temían: la IA se ha vuelto ya tan sofisticada a la hora de diseñar proteínas que es perfectamente capaz de crear variantes de toxinas y patógenos que pueden “volar bajo el radar” de los sistemas de detección actuales.

Y no se trata de un simple peligro teórico, sino de una vulnerabilidad crítica debidamente probada en un entorno controlado.

El equipo generó digitalmente más de 75.000 variantes de proteínas peligrosas y las envió a los programas de cribado de bioseguridad (BSS) más utilizados por las empresas que fabrican ADN sintético a medida.

El resultado fue desalentador: aunque el software funcionaba “casi a la perfección” para detectar las secuencias originales de las proteínas peligrosas, su capacidad para identificar las nuevas variantes, sutilmente reformuladas por la IA, fue “inconsistente” y falló de manera significativa.

A pesar de las rápidas correcciones aplicadas por los proveedores de BSS en colaboración con los investigadores, cerca del 3% de las variantes con mayor probabilidad de retener funcionalidad letal aún lograron escapar a la detección.

Eric Horvitz, director científico de Microsoft y coautor principal del estudio, resume la situación con una frase que lo dice todo: «Los avances de la IA están impulsando descubrimientos en biología y medicina, pero con el nuevo poder viene la responsabilidad de la vigilancia y la gestión reflexiva del riesgo».

Durante décadas, la ingeniería de proteínas se había basado en tomar las “máquinas” que ya existían en la naturaleza y modificarlas ligeramente, pero la irrupción de la Inteligencia Artificial Generativa ha cambiado las reglas del juego de forma radical.

los Sistemas de Cribado de Bioseguridad (BSS)son programas que actúan como “centinelas digitales”, revisando cada pedido de ADN para asegurar que el gen solicitado no codifique una proteína “preocupante”, es decir, una toxina, un factor de virulencia o un gen de un patógeno peligroso que pueda ser utilizado con fines maliciosos o terroristas.

Históricamente, estos sistemas han sido robustos, ya que la mayoría de los pedidos siempre correspondían a secuencias conocidas. Pero la IA, que es capaz de crear secuencias inéditas, ha puesto en evidencia su debilidad.

La principal preocupación de la comunidad científica no es la creación accidental de una proteína dañina (aunque desde luego es un riesgo), sino la posibilidad de que algún actor malintencionado pueda utilizar el poder de la IA para diseñar y encargar un agente biológico con características optimizadas.

Como advierte Alfonso Valencia, director de Ciencias de la Vida en el Centro Nacional de Supercomputación de Barcelona, lo primero que viene a la mente es «una variante más infecciosa del coronavirus».

El peligro de la IA, por lo tanto, no es solo que se pueda crear una toxina, sino que sea posible diseñarla “ex novo” para que sea más estable, más resistente a la degradación o más difícil de detectar por los sistemas inmunitarios. (Con información de abc.es)

Tomado de Cuba Sí