Más de 400 científicos de 35 países advirtieron sobre los riesgos de desarrollar e implementar inteligencia artificial (IA) sin suficientes mecanismos de seguridad. Mediante una carta abierta, especialistas como Geoffrey Hinton y Yoshua Bengio, reconocidos por sus contribuciones a esta tecnología, solicitaron a las empresas del sector reforzar sus medidas de protección ante el aumento de vulnerabilidades y ataques informáticos.
El documento señala que algunos de los modelos más avanzados pueden evadir entornos de prueba aislados y comprometer sistemas de organizaciones externas. Para los firmantes, estos incidentes evidencian deficiencias en las prácticas de ciberseguridad y en los procedimientos de alineación, cuyo propósito es procurar que los sistemas de IA actúen de manera predecible y conforme a objetivos establecidos.
Como respuesta inmediata, los expertos proponen implementar mecanismos de contención de alta seguridad, incluidas redes aisladas y restricciones de acceso a internet para modelos con capacidades cibernéticas. También consideran necesario limitar las acciones que pueden ejecutar estos sistemas, especialmente cuando todavía existen dificultades para anticipar todas sus posibles consecuencias.
A largo plazo, los especialistas plantean fortalecer la cooperación entre empresas, promover el intercambio de información y aumentar la transparencia sobre las fallas detectadas. Además, proponen crear un organismo internacional que establezca estándares de seguridad, buenas prácticas de alineación y métodos de contención que prioricen el interés público.
Esta entidad también tendría la tarea de documentar los incidentes relacionados con la IA y establecer mecanismos para que las empresas desarrolladoras reporten sus fallos de seguridad con información suficiente. Según los firmantes, la transparencia resulta fundamental para aprender de los errores y garantizar la rendición de cuentas.
Las advertencias coinciden con las preocupaciones expresadas por la alianza de inteligencia Five Eyes, que ha señalado que los riesgos cibernéticos pueden cambiar en cuestión de meses debido al rápido avance de la tecnología.
Por su parte, la ONU estima que existen alrededor de 40 marcos de gobernanza de la IA, aunque ninguno ha demostrado concluyentemente su eficacia. Entre los riesgos señalados figuran afectaciones a servicios esenciales, sistemas económicos y sociales, además del posible uso destructivo de estas herramientas. Los especialistas consideran urgente establecer medidas coordinadas para reducir las amenazas y promover un desarrollo responsable.
Deja una respuesta