En un llamado urgente a la acción, Check Point Software ha instado a los gobiernos y al sector privado a establecer regulaciones y controles de seguridad antes de que surjan desastres causados por tecnologías autónomas. Este llamado se da en el contexto de un creciente debate sobre la regulación de la inteligencia artificial (IA), avivado por las recientes declaraciones de Anthropic que abogan por la necesidad de integrar un sistema de apagado de emergencia, conocido como «kill switch».

La empresa, destacada por sus soluciones de ciberseguridad, advierte que la incorporación de tecnologías autónomas en servicios públicos e infraestructuras críticas introduce nuevos riesgos operativos que deben ser abordados de inmediato. La ausencia de un adecuado marco legal podría resultar en situaciones peligrosas, especialmente si estos sistemas automatizados fallan o se transforman en objetivos de ataques cibernéticos.

Mario García, director general de Check Point Software para España y Portugal, enfatiza la importancia de legislar la inclusión de un botón de apagado de emergencia que permita desactivar la IA cuando las circunstancias así lo exijan. «La tecnología autónoma tiene el potencial de revolucionar nuestra economía, pero también necesitamos establecer controles y contrapesos, especialmente en áreas tan sensibles como los servicios públicos», argumenta García.

El directivo plantea además interrogantes críticos sobre la responsabilidad del botón de apagado, cuestionando si esta debería recaer en el proveedor tecnológico, en el gobierno o en los legisladores. García señala la necesidad de definir claramente el funcionamiento de este mecanismo, ya sea deshabilitando flujos de trabajo automatizados o poniendo en cuarentena agentes de IA específicos.

Asimismo, sugiere que las medidas de seguridad deben implementarse prioritariamente en la infraestructura crítica nacional, para luego expandirse una vez que el modelo esté consolidado. Si bien estas regulaciones pueden integrarse mediante código y comandos, advierte que los despliegues a gran escala pueden convertirse en objetivos atractivos para los ciberdelincuentes.

Por lo tanto, es esencial para el sector público y privado incorporar la seguridad desde el diseño de estos programas, evitando la implementación de soluciones apresuradas únicamente después de que se haya manifestado un problema con la inteligencia artificial.