Check Point Software ha lanzado un llamado urgente a gobiernos y sectores privados para implementar regulaciones y controles de seguridad antes de enfrentar posibles desastres causados por tecnologías autónomas. Este llamado a la acción se enmarca en el contexto de un debate creciente sobre la regulación de la inteligencia artificial (IA), intensificado por Anthropic, que recomienda la integración de un sistema de apagado de emergencia o «kill switch».
La empresa, conocida por sus innovaciones en ciberseguridad, advierte que la incorporación de tecnologías autónomas en servicios públicos e infraestructuras críticas introduce nuevos riesgos operativos que deben ser gestionados sin demora. La ausencia de un marco legal apropiado podría conducir a situaciones peligrosas, especialmente si estos sistemas automatizados experimentan fallos o son objeto de ciberataques.
Mario García, director general de Check Point Software en España y Portugal, subrayó la necesidad de legislar para la inclusión de un botón de apagado de emergencia que permita desactivar la IA en situaciones críticas. «La tecnología autónoma tiene el potencial de revolucionar nuestra economía, pero es esencial establecer controles y contrapesos, sobre todo en sectores sensibles como los servicios públicos», señaló García.
El directivo también planteó interrogantes importantes sobre la responsabilidad del botón de apagado, preguntándose si debería recaer en el proveedor tecnológico, en el gobierno o en los legisladores. García destacó la necesidad de definir claramente el funcionamiento de esta herramienta, ya sea desactivando flujos de trabajo automatizados o aislando agentes de IA específicos.
Además, sugiere que la implementación de tales medidas de seguridad debería centrarse inicialmente en la infraestructura crítica nacional, expandiéndose a mayor escala una vez que el modelo de seguridad esté bien establecido. Aunque estas reglas pueden integrarse a través de código y comandos, García advierte que los despliegues a gran escala se convierten en objetivos atractivos para ciberdelincuentes.
Por lo tanto, tanto en el sector público como en el privado, es fundamental que la seguridad sea incorporada desde el diseño de estos programas, evitando recurrir a soluciones precipitadas tras el surgimiento de problemas relacionados con la inteligencia artificial.