Antes de iniciar este artículo, considero necesario definir correctamente qué es inteligencia artificial (IA). Según Microsoft Cloud Computing Dictionary, este concepto es «la capacidad de un sistema informático de imitar funciones cognitivas humanas como el aprendizaje y la solución de problemas».
Según esto, la IA puede clasificarse en dos tipos. La primera es la IA fuerte, también conocida como IA general. Son sistemas capaces de realizar cualquier tarea intelectual, con la capacidad de comprender, aprender, razonar y aplicar su conocimiento en varios dominios sin interacción humana. La segunda es la IA débil o estrecha, que designa sistemas diseñados y entrenados para realizar tareas específicas o un conjunto de actividades, sin la capacidad de trascender en el ámbito para el que fue diseñado. La mayoría de las implementaciones actuales son IA débil y están diseñadas para tareas específicas. La IA fuerte sigue siendo un objetivo teórico que está más allá de la capacidad de las tecnologías actuales.
Ambos enfoques de la IA tienen aplicaciones valiosas y la mayoría de las que vemos hoy se centran en abordar problemas específicos en las áreas de salud, finanzas, transporte, educación y ciberseguridad buscando revolucionar las actividades cotidianas.
Con esta definición podemos iniciar nuestro abordaje a la inteligencia artificial y entender cómo impacta directamente en el sector de ciberseguridad.
Un escenario de amenazas crecientes
Hoy en día podemos dar como bueno y válido que la IA está transformando todos los aspectos de nuestras vidas, desde la forma en que trabajamos hasta la manera en que nos relacionamos con el mundo que nos rodea; y la ciberseguridad no es un elemento ajeno a esta realidad. La IA ha demostrado tener el potencial de revolucionar la forma en que protegemos nuestras infraestructuras tecnológicas, sistemas informáticos e informaciones, tanto de carácter personal como corporativo. Como decía una frase que leí en algún lugar: «Si tienes el enemigo a tu alcance, significa que tú también estás en el suyo». Así es como debemos entender que en este nuevo escenario también se nos plantean nuevas amenazas que ponen en riesgo la privacidad y seguridad del activo más valioso de los que una organización puede disponer.
Según el informe Cyberthreat Intelligence de 2023, en 2022, los ciberataques aumentaron en un 15 por ciento con referencia a 2021; y se espera que esta tendencia siga aumentando para el 2024. Esto se debe a que vivimos en un mundo donde se interconectan procesos, personas y tecnologías para lograr la realización de tareas cotidianas. Los ciberdelincuentes no se quedan rezagados ante esta oportunidad y están incorporando constantemente más herramientas y técnicas sofisticadas basadas en IA, así como soluciones complejas que dificultan tanto la detección como la respuesta oportuna de amenazas activas en las infraestructuras tecnológicas. Y por si fuera poco, existe otro factor importante que hay que tener en cuenta, y es la falta de concientización en los usuarios finales. El usuario, por lo general, es el eslabón más débil en la cadena de un robusto programa de ciberseguridad; y como tal son una presa fácil para los ciberdelincuentes.
El papel de la IA en la ciberseguridad y defensa estratégica
Este aumento año tras año en los ciberataques es una tendencia preocupante que se ha sostenido a lo largo del tiempo, y cada vez más los gigantes tecnológicos están apostando por la IA para agregar un poco de peso en la balanza e inclinarla hacia el lado de una defensa efectiva.
Sin embargo, debemos entender que la IA no es una panacea universal que viene a resolver todos nuestros problemas con soluciones mágicas. Sí es cierto que puede ser muy poderosa para mejorar la toma de decisiones estratégicas, el análisis y comprensión de grandes volúmenes de datos y la respuesta efectiva ante un incidente. Ahora bien, también es cierto que agrega nuevas amenazas al panorama de la ciberseguridad a nivel global.
¿Qué es la ciberseguridad? La tríada de la información
En este punto deberíamos establecer qué entendemos por ciberseguridad. Podemos definirla como un conjunto de medidas y prácticas que buscan proteger los sistemas informativos, pero sobre todo la información que es procesada y almacenada en estos sistemas para reducir los niveles de riesgo a un valor aceptable para las operaciones de una organización.
La ciberseguridad como tal se sustenta sobre tres pilares sagrados, conocidos como «la triada de la información», que son:
- Confidencialidad: Consiste en que la información solo puede ser accesible por las personas autorizadas, limitando así que pueda caer en manos equivocadas.
- Integridad: Se refiere a que la información debe mantenerse libre de modificaciones no autorizadas, tanto mientras se transmite de un lugar a otro como mientras está en reposo.
- Disponibilidad: Se define como que la información debe estar disponible para su uso siempre que sea requerida por las partes autorizadas.
Si bien no existe una propiedad de la información más importante que otra, sí me atrevo a decir que, dependiendo del contexto de la organización, una de estas puede tener mayor o menor peso sobre el resto. Por ejemplo, para YouTube, la disponibilidad de sus videos, que es el espacio donde puedan colocar sus anuncios —que a su vez es la fuente de ingresos principal de la empresa—, sería mucho más importante quizás que la integridad. Sin embargo, para un banco comercial, la confidencialidad y la integridad pueden ser más importantes y más dolorosas que perder el funcionamiento de algunos de sus canales electrónicos.
La convergencia entre IA y seguridad informática
En la actualidad, siendo la información la fuente principal para la toma de decisiones y siendo la IA un factor que está revolucionando nuestra forma de interactuar con el mundo, es sumamente importante hablar de ciberseguridad e inteligencia artificial desde un enfoque que nos permita visualizar todo el panorama. Estas dos grandes fuerzas se encuentran estrechamente relacionadas y se incluyen mutuamente de manera positiva y negativa. Por un lado, permiten la identificación y detección de amenazas mejorando la postura en ciberseguridad, generando la aplicación de controles y procedimientos apropiados con menores márgenes de errores en las infraestructuras tecnológicas. Pero, por otra parte, aumentan los riesgos, las vulnerabilidades y la superficie de ataque al facilitar la creación, ejecución, integración y ofuscación de ataques cibernéticos más sofisticados y potentes que pueden afectar los diferentes sectores y ámbitos de la sociedad.
Las buenas prácticas internacionales para la gestión de ciberseguridad y los avances de la IA se pueden combinar para fortalecer la protección contra amenazas emergentes en el ciberespacio, pero existe una notable brecha entre las competencias del personal humano responsables de sostener una gestión eficaz en ciberseguridad y la evolución de la IA usada para fines maliciosos por los ciberdelincuentes que puede dar lugar a brechas o puntos ciegos, dejando a las organizaciones en un grave estado de vulnerabilidad.
La ciberseguridad se enfrenta a múltiples retos, como son la detección de intrusiones, la protección de la privacidad, la defensa proactiva, la identificación de comportamiento anómalos o la detección de amenazas sofisticadas; y, sobre todo, las cambiantes amenazas que aparecen continuamente, lo que ha generado la creación de sistemas autoadaptables que permitan la respuesta ante ciberamenazas.
La IA puede utilizarse en todas las etapas de una seguridad integral inteligente: identificación, protección, detección, respuesta y recuperación ante incidentes. En este sentido, la ciberseguridad puede considerarse un dominio más de aplicación para la IA; y, de hecho, ya lleva tiempo esta utilización en el desarrollo de herramientas para la mitigación de amenazas.
La IA en ciberseguridad
La IA puede utilizarse para mejorar la ciberseguridad de diversas maneras. En este sentido, considerando las diferentes disciplinas que tiene la ciberseguridad, estos son algunos ejemplos de cómo se puede usar:
- Detectar amenazas de manera más eficaz: Se pueden analizar grandes cantidades de datos (apoyada por alguna herramienta de data science) para identificar patrones que podrían indicar una amenaza. Esto ayuda a los equipos de seguridad y respuesta a incidentes a detectar ataques antes de que se produzcan, de manera más proactiva, logrando así la protección de la información o la mitigación de los riesgos.
- Responder a amenazas de forma más rápida y eficiente: La IA puede automatizar tareas que actualmente realizan los analistas de seguridad, como la identificación de la naturaleza de las amenazas. Esto les libera para centrarse en tareas más complejas y que requieran más análisis según el contexto de la organización.
- Análisis de comportamiento: La IA puede aprender el comportamiento normal de usuarios y sistemas, facilitando así la identificación de comportamientos anómalos que podrían indicar actividades maliciosas.
- Reducción de falsos positivos: La IA puede mejorar la precisión en la identificación de amenazas y reducir la incidencia de falsos positivos, lo que también minimiza el impacto en las operaciones normales del equipo de monitoreo.
- Mejora en la investigación forense: Facilita la investigación al analizar grandes conjuntos de datos de forma rápida y eficiente, ayudando a comprender la naturaleza y el alcance de un incidente.
- Cerrar las brechas de seguridad: La IA se puede utilizar para identificar y corregir vulnerabilidades en los sistemas informáticos y dar apoyo a los responsables de esta para lograr una gestión eficaz y eficiente las brechas identificadas.
Ejemplos de uso en grandes compañías
Existen algunos ejemplos concretos de cómo se está utilizando la IA en ciberseguridad por grandes empresas. Por ejemplo, Cisco la usa para detectar ataques de malware. La compañía ha desarrollado un sistema que utiliza aprendizaje automático para identificar patrones de comportamiento que son característicos de los ataques de malware. Este sistema ha ayudado a Cisco a detectar y detener ataques de malware con mayor rapidez y precisión.
Por su parte, Microsoft utiliza la IA para proteger sus sistemas de correo electrónico. La compañía ha desarrollado un sistema que utiliza aprendizaje automático para identificar correos electrónicos maliciosos que llegan a sus usuarios.
Y Google la usa para proteger sus servidores. La compañía ha desarrollado un sistema que utiliza aprendizaje automático para identificar y bloquear ataques de denegación de servicio distribuido (DDoS). Este sistema ha ayudado a Google a proteger sus servidores de esta clase de ataques a gran escala.
La IA ayuda a equilibrar la seguridad con la experiencia del usuario analizando el riesgo de cada movimiento en los sistemas según sus necesidades. Además, puede producir resúmenes de incidentes para alertas de alta fidelidad y automatizar la respuesta ante incidentes, acelerando las investigaciones y la clasificación de los eventos y reduciendo el tiempo de respuesta. Incluso en la protección de datos puede identificar datos ocultos, buscar anomalías y alertar a los responsables de seguridad sobre las posibles amenazas.
Los riesgos de la IA
Pero no todo es color de rosa. En el ecosistema de la ciberseguridad y la IA vienen endosados amenazas y riesgos que debemos enfrentar; por ejemplo:
- Aumento de la sofisticación de los ataques: La IA puede utilizarse para crear ataques más sofisticados que sean más difíciles de detectar y bloquear, sobre todo con la cantidad de datos que los usuarios liberan al ciberespacio permite personalizar más los ataques. Uno de los ataques que más han enfrentado las organizaciones es el phishing, donde el ciberdelincuente engaña a las víctimas para que revelen información confidencial. La IA permite perfilar los usuarios u objetivos gracias a las informaciones en las redes sociales, dándole una falsa sensación de seguridad a los usuarios que caen en este tipo de ataques de manera recurrente. En los últimos cuatro meses, el incremento de ataques de phishing ha sido constante, con un aumento de un 50 por ciento desde octubre 2023 hasta principios de enero 2024.
- Desinformación: La IA se puede utilizar para crear contenido falso o engañoso, lo que puede utilizarse para difundir desinformación o para engañar a las personas.
- Control por parte de actores maliciosos: La IA es una tecnología poderosa que puede utilizarse para controlar sistemas informáticos. Si actores maliciosos consiguen hacerse con sistemas informáticos que utilizan IA, podrían causar daños significativos.
- Desafíos éticos: La IA plantea cuestiones éticas sobre la privacidad y la autonomía. El análisis masivo de datos puede infringir la privacidad y la toma de decisiones autónomas.
- Sesgos en los algoritmos: Los algoritmos con los que se creó la IA pueden heredar sesgos culturales o discriminatorios de los datos con los que fueron desarrollados.
Casos reales de ataques asistidos por IA
Hay varios ejemplos concretos de cómo los grupos de ciberdelincuentes están utilizando la IA para atacar sistemas informáticos. Por ejemplo, se utilizó para crear un ataque DDoS de gran escala contra un importante proveedor de servicios cloud. El ataque provocó la interrupción de los servicios de la empresa durante varias horas. Mediante servidores de comando y control y potenciados por IA se logran crear nuevos vectores de ataque y canales de comunicación de manera aleatoria, dificultando así la respuesta a estos ataques.
También se utilizó la IA para crear un malware que era capaz de eludir los sistemas de seguridad tradicionales. El malware pudo infectar a miles de ordenadores antes de que fuera detectado. Esto se logra mediante el desarrollo de nuevas técnicas de ofuscación del código y generación automática de nuevos payloads (cargas útiles) de los cuales no tenemos registros o indicadores de compromisos conocidos.
Finalmente, otro ejemplo es la creación de un ataque de phishing que era capaz de engañar a las personas para que revelaran información confidencial mediante la imitación de voz a partir de un texto y perfiles falsos en las redes, entre otras tantas técnicas. El ataque resultó en la filtración de datos personales de millones de personas.
En definitiva, no hay duda de que la IA tiene el potencial de revolucionar la ciberseguridad, pero también plantea nuevos riesgos que debe ser abordados con medidas prácticas sólidas. Es importante que las organizaciones sean conscientes de estos riesgos y tomen medidas para mitigarlos, promover la transparencia y la responsabilidad en el desarrollo de sistemas de IA y fomentar la formación continua.
No hay duda de que la IA tiene el potencial de revolucionar la ciberseguridad, pero también plantea nuevos riesgos que debe ser abordados con medidas prácticas sólidas
Medidas de mitigación recomendadas
No hay duda de que la IA tiene el potencial de revolucionar la ciberseguridad, pero también plantea nuevos riesgos que debe ser abordados con medidas prácticas sólidas. Es importante que las organizaciones sean conscientes de estos riesgos y tomen medidas para mitigarlos, promover la transparencia y la responsabilidad en el desarrollo de sistemas de IA y fomentar la formación continua.
Algunas de las medidas que las organizaciones pueden tomar para mitigar los riesgos de la IA en ciberseguridad son:
- Utilizar la IA de forma responsable: Las organizaciones deben utilizar la IA de forma responsable y ética. Esto incluye utilizar la IA para mejorar la seguridad, pero también para mitigar sus riesgos asociados.
- Mantener toda la infraestructura actualizada: Las organizaciones deben mantener todos los activos de software y firmware actualizados para que sea resistente a los últimos ataques, así como llevar a cabo un programa de gestión de vulnerabilidades automatizado para identificar aquellas vulnerabilidades relacionadas a malas configuraciones.
- Formar a los empleados: Las organizaciones deben formar a sus empleados sobre los riesgos y amenazas emergentes producto del uso de la IA por parte de los ciberdelincuentes. Esto puede ayudar a disminuir la brecha entre competencias y el uso de la IA con el objetivo de atacar o vulnerar los sistemas informáticos de la organización.
Conclusión
La IA es una tecnología disruptiva que tiene el potencial de transformar la ciberseguridad. Sin embargo, es importante ser conscientes de los riesgos potenciales para la ciberseguridad. Las organizaciones deben desarrollar estrategias para mitigar estos riesgos y aprovechar el potencial de la IA para mejorar su ciberseguridad.
Algunos de los pasos que las organizaciones pueden tomar para mitigar los riesgos de la IA para la ciberseguridad incluyen desarrollar una comprensión sólida de las amenazas que representan la IA para la ciberseguridad, invertir en tecnologías y procesos de ciberseguridad que sean resistentes a la IA, formar a los empleados sobre los riesgos de la IA para la ciberseguridad y fomentar la colaboración entre pares para compartir información sobre amenazas y mejores prácticas.
