La carrera pública por la Inteligencia Artificial (IA) comenzó en serio en 2023 con el lanzamiento generalizado de las capacidades de la IA generativa. Al principio, las oportunidades parecían ilimitadas, pero los riesgos no tardaron en aparecer.
En 2024, colisionarán los ciberataques habilitados por los sistemas de IA y dirigidos contra ellos, la reducción de la intervención humana en el ecosistema digital, junto con las presiones regulatorias cada vez más complejas en todo el mundo. Salvaguardar la integridad de la tecnología y los datos frente a las nuevas amenazas será más difícil que nunca.
En 2024, proliferarán la inversión y la implementación de sistemas automatizados inteligentes, hoy en día encabezados por los Modelos de Lenguaje de gran tamaño (LLM, por sus siglas en inglés) de IA generativa y sus versiones más portátiles, los "pequeños" modelos lingüísticos. Los actores de las amenazas ya han comenzado a aprovechar la IA generativa como parte de sus operaciones, aumentando su capacidad; en particular, el ritmo y la escala de los ataques. Con las continuas tensiones y conflictos mundiales en 2024, los ataques a la integridad de los datos aprovechados por los sistemas autónomos se normalizarán, lo que pondrá a prueba nuestra capacidad para detectar ataques y confiar en las nuevas tecnologías. En el espacio público y político se está produciendo un fenómeno similar. El creciente aprovechamiento de las tecnologías de IA para llevar a cabo campañas de desinformación a gran escala mediante el uso de contenidos de vídeo y audio con falsificación digital (deepfake) pondrá aún más en entredicho nuestra confianza en los contenidos en línea. La campaña electoral estadounidense está demostrando ser un hervidero del deepfake. DeepMedia, que crea herramientas para detectar medios manipulados sintéticamente, ha detectado un aumento del triple de archivos de vídeo deepfake de todo tipo publicados en línea en 2022-23 y ocho veces más archivos de voz de deepfake.
En 2024, la falta de claridad en torno a la propiedad y la responsabilidad de la tecnología y la infraestructura digital pondrá a prueba la capacidad de las empresas para responder a los incidentes cibernéticos y digitales. El crecimiento de la infraestructura como servicio y de la inteligencia artificial como servicio hará que las empresas de todo el mundo dependan más que nunca de complejas cadenas de suministro digitales. Entre ellos habrá tanto grandes proveedores de infraestructuras como pequeños desarrolladores de aplicaciones; estos últimos ofrecen menos garantías sobre la seguridad e integridad de sus servicios. A medida que nuestro ecosistema tecnológico crece exponencialmente, identificar la propiedad y la responsabilidad de la integridad y resistencia de nuestra infraestructura digital se convertirá en algo primordial para todas las empresas.
Los reguladores actuaron con rapidez en 2023 y se espera que continúen a buen ritmo en 2024 para definir los marcos nacionales y regionales de control de este nuevo entorno. Gobiernos de todo el mundo han publicado, o están redactando, reglamentos que afectan directamente a la implementación de las tecnologías de IA o a la infraestructura que permite su existencia. A diferencia de la privacidad de los datos, es de esperar que este reglamento se produzca mucho más rápido y traiga consigo una mayor fragmentación de nuestro panorama tecnológico.
Es de esperar que continúe la ruptura de las cadenas de suministro tecnológico mundiales y de los entornos operativos. Alineada con las fallas geopolíticas, la batalla por la independencia y la supremacía tecnológicas se acelerará a medida que los gobiernos intenten controlar el ritmo frenético de adopción de las nuevas tecnologías. En 2024, muchas empresas se enfrentarán a restricciones adicionales en materia de localización de datos, privacidad de los datos, notificación de incidentes y cadena de suministro tecnológico.
A medida que las tensiones mundiales se solapan con las amenazas a las empresas, la integridad de los ecosistemas digitales nacionales y regionales y la confianza en ellos serán un componente fundamental de la toma de decisiones el año que viene.
