Los ‘hackers’ han aprendido a falsear el material con el que los expertos en ciberseguridad enseñan a los sistemas de aprendizaje automático
Los piratas informáticos y los profesionales de la ciberseguridad viven inmersos en una carrera interminable. Cada mejora que introduce una de las dos partes es rápidamente contrarrestada por la otra. Cuando parece que los primeros toman ventaja, los segundos reaccionan y anulan sus ataques. Y la nueva situación lleva a los hackers a sofisticar sus métodos para burlar las nuevas barreras de privacidad. Todos ellos se valen de modernas herramientas de inteligencia artificial y aprendizaje automático (machine learning).
Una de las principales técnicas con las que los delincuentes están intentando ganar la batalla que se está librando actualmente en el entorno virtual es el denominado “envenenamiento de datos”. Como saben que los expertos en seguridad han enseñado a los programas a evitar intromisiones a partir de grandes volúmenes de información, ahora han encontrado la manera de falsear ese material. De modo que pretenden que las máquinas aprendan… erróneamente. En el momento en que descubren cómo se configura un algoritmo de bloqueo o cómo extrae los datos para operar, las víctimas están perdidas.
Una de las principales técnicas de los delincuentes que operan en el entorno virtual es el denominado ‘envenenamiento de información’
Lo están porque, entonces, los piratas introducen información engañosa que genera una contranarrativa sobre qué contenidos son legítimos y qué tráfico no es considerado malicioso. En ese punto, el spam es visto como inofensivo, las defensas no se activan y el sistema falla. Sin embargo, las empresas también están al tanto de las limitaciones de los hackers. Una de las más profundas es que, por sorprendente que parezca, no pueden permitirse el lujo de estar constantemente actualizados.
Así, los atacantes se basan a menudo en marcos y código antiguos porque elaborar malware desde cero supone un gran esfuerzo que no siempre trae asociado un beneficio que esté a la altura. Por lo tanto, lo que hacen es aprender de las estrategias que ya se han aplicado en el pasado e ir añadiendo algunas novedades. Contra eso luchan compañías como Cyxtera, cuyo vicepresidente, Alejando Correa Bahnsen, admite: “Queremos estar lo más cerca posible de la forma en que trabajan los piratas”.
Los piratas informáticos no pueden actualizarse constantemente porque eso supondría invertir muchas horas sin una garantía de éxito
A la comunidad investigadora le preocupa especialmente detectar y resolver “los puntos ciegos” de los sistemas de seguridad de aprendizaje automático, que nacen de la certeza de que muchas de las tareas repetitivas y tediosas pueden ser llevadas a cabo por lás máquinas mejor que por las personas, según el director de tecnología de operaciones de respuesta de IBM Security, Koos Lodewijkx. Para ello, como subrayan analistas como los de Endgame, sería muy útil una mayor “colaboración” entre los distintos agentes del sector.
Al frente de estas pesquisas en Google está Elie Bursztein, que recuerda que Gmail está empleando el machine learning desde su lanzamiento, hace 14 años. “Antes estábamos en un mundo en el que, cuantos más datos acumulabas, mas problemas tenías. No obstante, ahora sucede exactamente lo contrario. Con más información, prevenimos mejor la distribución de imágenes violentas, el phishing o la suplantación de identidad, etc.”, concluye.
