La investigación muestra cómo la inteligencia artificial puede infectarse con malware

¿Qué pasa si el sistema de IA está infectado con malware? Si se consideran las computadoras u otro tipo de sistemas polivalentes, los problemas de hoy no surgirán con la misma naturalidad y frecuencia.

Los investigadores de la Universidad de Cornell señalaron en un artículo sobre sus experimentos para inyectar código en estos sistemas que descubrieron que el código malicioso podría estar oculto en las redes neuronales de IA.

Como muchos sistemas informáticos, la inteligencia artificial puede infectarse con virus.

Siguiendo los pasos de los desarrolladores de nuevas tecnologías informáticas, los piratas informáticos y los ciberdelincuentes han hecho que sus métodos de ataque sean más sofisticados. Procedimiento de uso Las consecuencias de una infección pueden variar desde pequeñas averías y / o filtraciones de información hasta piratería (mediante cifrado) o la destrucción de todo el sistema de archivos.

En este nuevo AprenderEl equipo encontró una nueva forma de infectar ciertos tipos de sistemas informáticos que ejecutan aplicaciones de inteligencia artificial. En el caso de las redes neuronales en particular, el equipo encontró debilidades en la penetración del código.

Naturalmente, pueden verse perturbados por factores externos. Todos estos terceros tienen que imitar la estructura de la red al transmitir nuevos datos (en este caso código malicioso), al igual que el cerebro humano tiene que agregar memoria.

Los investigadores de Cornell, Wang Zhi, Liu Chao Ge y Cui Xiang, descubrieron que esto se puede lograr incorporando malware en redes neuronales. El experimento se llevó a cabo con el sistema de inteligencia artificial AlexNet. Aunque es muy poderoso, puede destruirse debido a la dinámica mencionada anteriormente. Para agregar el código a la red neuronal, los investigadores eligieron lo que pensaron que era la mejor capa de inyección. Hicieron la misma prueba en un modelo ya entrenado, pero se negaron a atacar la red no capacitada, lo que redujo el impacto en toda la red.

Según los investigadores, la infección puede pasar desapercibida si se realiza con cuidado. El software antivirus no puede detectar malware incrustado y todo el sistema mantiene un nivel similar de rendimiento.

Como mínimo, el virus de prueba utilizado en el estudio es una práctica inofensiva porque, a pesar de agregar código potencialmente malicioso, no lograron descubrir cómo ejecutarlo de manera efectiva.

Ahora se sabe que los sistemas de IA son vulnerables a posibles ataques de malware y está surgiendo un nuevo escenario de trabajo para las tecnologías antivirus.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Subir
error: Content is protected !!