El 31 de enero de 2025, el Departamento de Ciencia, Innovación y Tecnología del Reino Unido publicó el “Código de Prácticas de Ciberseguridad para la IA”, un conjunto de principios diseñados para mitigar los riesgos de ciberseguridad en sistemas de inteligencia artificial. Este código establece medidas básicas de seguridad para proteger tanto a los sistemas de IA como a las organizaciones que los desarrollan y despliegan, con el objetivo de salvaguardar a los ciudadanos y la economía digital del Reino Unido, asegurando al mismo tiempo que se puedan aprovechar los numerosos beneficios que ofrece la IA.
El código se estructura en una serie de principios fundamentales que abarcan desde la concienciación sobre amenazas y riesgos en IA, hasta el diseño seguro de sistemas, la evaluación de amenazas, la gestión de riesgos y la seguridad de la cadena de suministro. Además, se enfatiza la importancia de la responsabilidad humana en los sistemas de IA y la necesidad de documentar adecuadamente los datos, modelos y procesos involucrados.
Tras una convocatoria de opiniones en el verano de 2024, el código fue actualizado para incorporar comentarios de diversas partes interesadas a nivel global. Una de las principales conclusiones de esta consulta fue la necesidad de una guía de implementación que ayudara a las organizaciones a aplicar los principios del código de manera efectiva. En respuesta, se encargó a John Sotiropoulos, Arquitecto Senior de Seguridad en Kainos y co-líder del proyecto OWASP Top 10 para Aplicaciones LLM, la creación de esta guía, la cual fue revisada por funcionarios del DSIT y del Centro Nacional de Ciberseguridad (NCSC).
El gobierno del Reino Unido, en colaboración con el NCSC, planea presentar el código y la guía de implementación en el Instituto Europeo de Normas de Telecomunicaciones (ETSI) para que sirvan como base para un nuevo estándar global (TS 104 223) y una guía de implementación complementaria (TR 104 128). Una vez establecidos estos estándares, el contenido del código y la guía se actualizará para reflejar las normas globales futuras.
Este esfuerzo forma parte del trabajo más amplio del gobierno para proteger y promover el entorno digital del Reino Unido, incluyendo la seguridad de la próxima generación de tecnologías conectadas. Para apoyar las políticas en esta área, el gobierno ha publicado varios informes de investigación sobre la ciberseguridad en IA, incluyendo encuestas y revisiones bibliográficas. Se puede encontrar más información en la colección de ciberseguridad de IA del gobierno.
En resumen, el “Código de Prácticas de Ciberseguridad para la IA” representa un paso significativo hacia la creación de estándares globales para la seguridad de la inteligencia artificial, asegurando que su desarrollo y despliegue se realicen de manera segura y beneficiosa para la sociedad.
