Fiddler AI, una empresa líder en el campo de la inteligencia artificial (IA), está dejando una huella significativa en el camino hacia un mundo más seguro y equitativo. Durante el reciente Generative AI Summit celebrado en Washington D.C., se destacó la misión de la compañía de establecer confianza en los sistemas de IA, especialmente en modelos de lenguaje de gran tamaño (LLM) y operaciones de aprendizaje automático (MLOps).

Nick Nolan, gerente de ingeniería de soluciones en Fiddler AI, manifestó su compromiso hacia una IA responsable. La empresa se centra en dos pilares esenciales: garantizar aplicaciones de IA responsables y proporcionar a los usuarios respuestas justas y confiables. Con el aumento del uso de la IA en la generación de contenido, se prevé la formulación de nuevas políticas que regulen la gobernanza y mitiguen los riesgos, fortaleciendo así la supervisión y ofreciendo protección contra resultados sesgados o dañinos.

Fiddler AI implementa una estrategia de supervisión abarcando monitoreo, seguridad y gobernanza. Su avanzada plataforma de observabilidad permite a las empresas monitorear métricas esenciales de LLM y ML, activando alertas cuando estas caen por debajo del umbral deseado. Este enfoque también proporciona evidencia de auditoría crucial para el cumplimiento normativo.

La rápida adopción de LLM por parte de las empresas trae consigo desafíos de monitoreo en entornos reales, un obstáculo que Fiddler aborda eficazmente con su innovador servicio de confianza y la herramienta Guardrails, capaz de responder en menos de 100 milisegundos.

En su empeño por prácticas responsables de IA, Fiddler se centra en la detección continua de sesgos y problemas de equidad, ofreciendo alertas inmediatas ante comportamientos no deseados. La automatización de la evidencia de auditoría simplifica el cumplimiento de las normativas vigentes.

Un caso de éxito es su colaboración con Integral Ad Science (IAS), donde la plataforma de Fiddler transformó la supervisión de modelos de aprendizaje, logrando una reducción de costos de monitoreo y acelerando la comercialización de productos.

Con la privacidad de datos bajo escrutinio, Fiddler ha robustecido su marco de seguridad para alinearse con las regulaciones de protección de datos, asegurando que todas las operaciones cumplan con la normativa actual y los estándares de la industria.

Fiddler AI tiene ambiciosos planes futuros para ampliar su liderazgo en la observabilidad de IA, desarrollando capacidades avanzadas y recursos educativos que promuevan una gobernanza efectiva. Su objetivo es ayudar a las empresas a implementar modelos de IA que, además de generar beneficios económicos, se mantengan dentro de principios de equidad y responsabilidad.