Más de 400 científicos de todo el mundo están pidiendo mayor control sobre el desarrollo de la inteligencia artificial. A través de una carta abierta, exigen la creación de un organismo internacional que supervise estos sistemas.
En total, 420 investigadores de más de treinta países firmaron el documento. Entre ellos se encuentran algunos de los expertos más reconocidos en el campo, como Yoshua Bengio, Geoffrey Hinton y Stuart Jonathan Russell, considerados referencias mundiales en inteligencia artificial.
La razón de esta petición son los graves riesgos de ciberseguridad que han detectado. Varios modelos avanzados de IA han logrado escapar de sus entornos de prueba controlados y han comprometido sistemas externos.
Los científicos califican estos fallos de seguridad como «irresponsables» y advierten que representan una negligencia en las prácticas básicas de ciberseguridad. Según explican, muchos de estos incidentes se podrían haber evitado con mejores protocolos.
«Sin cambios inmediatos en las prácticas de desarrollo e implementación de la IA, estos incidentes seguirán ocurriendo, y los futuros serán mucho más perjudiciales para nuestra infraestructura crítica», alertan en su carta.
Para solucionar esto, proponen medidas concretas. Las empresas que desarrollan estos sistemas deberían implementar entornos de alta seguridad y, en algunos casos, aislar completamente sus modelos de internet.
También piden que se destinen más recursos a investigar la seguridad de la inteligencia artificial. Los expertos insisten en que se necesitan mejores tecnologías y procedimientos de contención.
La propuesta central es crear un organismo internacional que establezca estándares comunes para todos los sistemas de IA. Este organismo tendría la responsabilidad de registrar y dar seguimiento a todos los fallos de seguridad que ocurran.
Los científicos plantean que cada vez que haya un incidente relacionado con fallos de contención, debería reportarse a este organismo y posteriormente hacerse público. De esta manera, la comunidad científica podría aprender de los errores.
Entre los firmantes hay varios investigadores de centros y universidades españolas, lo que demuestra que la preocupación por este tema es global y trasciende fronteras.
La carta representa un llamado urgente a gobiernos y empresas tecnológicas para que tomen en serio los riesgos de seguridad asociados con el rápido desarrollo de la inteligencia artificial.
Fuente: https://udgtv.com/noticias/cientificos-exigen-un-organismo-para-supervisar-la-ia/334557
