El Secreto Mejor Guardado de AWS: Protegiendo tu IA Generativa

Hace un par de das, dos de nuestros Distinguished Engineers, Anthony Liguori y Colm MacCarthaigh publicaron un artculo donde presentaban su enfoque seguro ara la IA generativa.

Este enfoque se divide en tres capas: infraestructura, acceso a modelos y aplicaciones. A continuacin os presentamos un resumen en espaol:

Un enfoque seguro para la inteligencia artificial generativa con AWS

La inteligencia artificial generativa (GenAI) est transformando las industrias de todo el mundo. Los clientes estn construyendo aplicaciones de IA generativa utilizando modelos grandes de lenguaje (LLM) y otros modelos fundacionales (FM) para mejorar la experiencia del cliente, optimizar operaciones y abrir nuevas fuentes de ingresos.

A lo largo del artculo se destaca la preocupacin de los clientes por la seguridad de sus datos sensibles y las inversiones en IA, lo que lleva a la necesidad de protegerlos contra accesos no autorizados, incluso por parte de los proveedores de servicios en la nube.

En respuesta, AWS presenta su enfoque seguro para la IA generativa, dividido en tres capas: infraestructura, acceso a modelos y aplicaciones.

- Infraestructura - Proporciona las herramientas para construir y entrenar LLM y otros FM.

- Acceso a Modelos - Proporciona acceso a todos los modelos junto con las herramientas que necesita para construir y escalar aplicaciones de IA generativa.

- Aplicaciones - Incluye aplicaciones que utilizan LLM y otros FM para hacer que el trabajo sea libre de estrs escribiendo y depurando cdigo, generando contenido, derivando ideas y tomando accin.

Con el Sistema Nitro de AWS, ofrecemos aislamiento completo y proteccin de datos en las instancias de Amazon EC2 desde 2017, asegurando que ni los operadores de AWS ni otros clientes puedan acceder a tus cargas de trabajo o a los datos que enves a un acelerador de aprendizaje automtico (ML) o GPU. Esta proteccin se aplica a todas las instancias basadas en Nitro, incluidas las instancias con aceleradores de ML como AWS Inferentia y AWS Trainium, y las instancias con GPUs como P4, P5, G5 y G6.

El Sistema Nitro permite al Adaptador Elastic Fabric (EFA), aprovechar el protocolo de comunicacin Scalable Reliable Datagram (SRD) creado por AWS para el entrenamiento distribuido a gran escala y elstico en la nube. Esta implementacin permite el acceso directo a la memoria remota (RDMA) a travs de una red siempre cifrada. La comunicacin a travs de EFA se encuentra encriptada con el cifrado de VPC, garantizando la seguridad de los datos sin afectar el rendimiento.

El diseo del Sistema Nitro ha sido validado por NCC Group, una firma independiente de ciberseguridad. AWS ofrece un alto nivel de proteccin para las cargas de trabajo de los clientes, y creemos que este es el nivel de seguridad y confidencialidad que los clientes deberan esperar de su proveedor de servicios en la nube. Este nivel de proteccin es tan crtico que lo hemos agregado en nuestros Trminos de Servicio de AWS para proporcionar una garanta adicional a todos nuestros clientes.

Mejorando la seguridad en cargas de trabajo de IA Generativa con las mejore prcticas de seguridad de AWS

Desde el principio, la infraestructura y los servicios de IA de AWS han integrado funcionalidades de seguridad y privacidad para ofrecer control sobre los datos. A medida que los clientes adoptan la IA generativa, es importante que sus datos se manejen de forma segura en todas las etapas del ciclo de vida de la IA, incluyendo la preparacin, el entrenamiento y la inferencia.

En el contexto del aprendizaje automtico, los modelos de IA aprenden a partir de datos durante el proceso de entrenamiento. Durante este proceso, el modelo ajusta sus parmetros o pesos para minimizar el error en las predicciones.

Estos pesos del modelo son fundamentales, ya que determinan cmo el modelo interpreta y responde a los datos de entrada. Si los pesos del modelo se ven comprometidos o manipulados de alguna manera, podra afectar negativamente la capacidad del modelo para hacer predicciones precisas o confiables. Es por ello que garantizar la seguridad de estos pesos del modelo es CRTICO para proteger la integridad del modelo en s mismo.

En AWS, asegurar la infraestructura de IA implica que ningn usuario no autorizado, ni siquiera el operador de infraestructura, pueda acceder a los datos sensibles de IA. Esto se basa en tres principios clave:

1. aislar completamente los datos de IA del operador de infraestructura,
2. permitir a los clientes aislar sus propios datos y
3. garantizar comunicaciones seguras entre dispositivos de infraestructura de aceleracin de ML.

La arquitectura Nitro cumple con el primer principio al aislar los datos de IA de los operadores.

Para el segundo principio ofrecemos una solucin integrada entre AWS Nitro Enclaves y AWS Key Management Service (KMS) para encriptar y transferir datos de manera segura. Puedes encriptarlos usando claves que solo t posees y controlas, almacenar esos datos en una ubicacin de tu eleccin y transferir los datos encriptados a un entorno de cmputo aislado para inferencia. Esto garantiza que los datos estn protegidos y aislados de los usuarios y software del cliente, teniendo su aplicacin prctica en casos como la inferencia de LLM en un enclave. Sin embargo, hasta el momento, los Enclaves de Nitro solo operan en la CPU, lo que limita el potencial para modelos de IA ms grandes y procesamiento ms complejo.

Para solventar esto, hemos anunciado planes para extender este flujo de Nitro encriptado de extremo a extremo para incluir una integracin con aceleradores de ML y GPUs, cumpliendo con el tercer principio. Podrs descifrar y cargar datos de IA sensibles en un acelerador de ML para procesamiento mientras garantizas que la aplicacin utilizada para procesar los datos de IA est autenticada.

A travs de Nitro, puedes validar criptogrficamente tus aplicaciones ante AWS KMS y descifrar datos solo cuando pasen los controles necesarios. Esta mejora nos permite ofrecer cifrado de extremo a extremo para tus datos a medida que fluyen a travs de cargas de trabajo de IA generativa.

Cundo podr tener esto disponible?

Se espera tenerlo disponible en las prximas Trainium2, as como en instancias de GPU basadas en Blackwell de NVIDIA, que ofrecen comunicaciones seguras entre dispositivos, el tercer principio de Infraestructura de IA segura. AWS y NVIDIA estn colaborando para llevar una solucin conjunta al mercado, que incluye la nueva plataforma de GPU NVIDIA Blackwell, que acopla la solucin NVL72 GB200 de NVIDIA con Nitro y las tecnologas EFA para proporcionar una solucin que permita la construccin y implementacin seguras de la siguiente generacin de aplicaciones IA.

Avanzando en el futuro de la seguridad de la IA generativa

En AWS, continuamos con la innovacin mientras invertimos en el desarrollo de funcionalidades que sean eficientes y accesibles para que sea prctico asegurar tus cargas de trabajo en las tres capas del stack de IA generativa, y as dejar que puedas concentrarte en lo que mejor sabes hacer: desarrollar y extender los usos de la IA generativa a ms reas.

Hasta la prxima!