Amazon Bedrock ha introducido un nuevo sistema de gestión proactiva de costos para la inteligencia artificial generativa, destacando su esfuerzo por ofrecer a las organizaciones un control más riguroso sobre sus gastos en este campo emergente. En la primera fase, Amazon presentó una solución que incorpora un mecanismo de vigilancia de costos para controlar el uso de tokens en tiempo real. La iniciativa ahora avanza hacia estrategias de monitoreo avanzadas que aseguran el mantenimiento dentro de los presupuestos preestablecidos.

Entre las innovaciones introducidas, se incluyen enfoques de etiquetado personalizados que facilitan una asignación de costos más precisa, junto con mecanismos de informes integrales que proporcionan una visión detallada del gasto. Uno de los avances más significativos es el etiquetado a nivel de invocación, que añade metadatos a cada solicitud de API, creando un detallado rastro de auditoría disponible en los registros de Amazon CloudWatch. Esto es invaluable para revisar decisiones presupuestarias y analizar patrones de uso a través de diversas aplicaciones y equipos, ayudando a las organizaciones a tomar decisiones informadas sobre sus recursos.

El flujo de trabajo de AWS Step Functions se ha renovado para apoyar este nuevo enfoque, y la estructura de entrada de la API ahora permite el etiquetado personalizado con nuevos parámetros que facilitan configuraciones específicas del modelo. Esto incluye la identificación del modelo, el contenido de las solicitudes y un objeto de etiquetas para un seguimiento detallado a nivel de aplicación.

Además, se ha añadido un paso en el flujo de trabajo que utiliza AWS Lambda para validar y etiquetar cada solicitud, asegurando que se alinee con el modelo específico y generando las etiquetas necesarias para análisis posteriores. Las métricas personalizadas en CloudWatch permiten un seguimiento detallado en múltiples dimensiones como tipo de modelo y centro de costos, dándole a las organizaciones una visibilidad detallada sobre el uso de IA.

También se introducen perfiles de inferencia de aplicaciones, que superan las limitaciones anteriores en el seguimiento de gastos mediante la creación de etiquetas de costos específicas. Estos perfiles pueden establecerse a través de la CLI de AWS o la API, permitiendo identificar departamentos y equipos para un análisis más preciso.

Herramientas como AWS Cost Explorer proporcionan a las organizaciones la capacidad de visualizar y analizar su gasto en la nube, segmentando por servicio, etiquetas y dimensiones personalizadas, ofreciendo un desglose claro de los gastos asociados al uso de Amazon Bedrock.

En resumen, esta nueva integración que combina vigilancia en tiempo real con informes exhaustivos permite a las organizaciones gestionar sus recursos de inteligencia artificial proactivamente, asegurando que se mantengan dentro de su presupuesto de innovación sin inconvenientes.