Prensa EspañolaTodas las noticias, un solo sitio

Las grandes IA tendrán un nuevo supervisor: Nueva York abre un centro público para ponerlas a prueba

20 minutosTecnologíaInteligencia artificial3 min de lectura
Las grandes IA tendrán un nuevo supervisor: Nueva York abre un centro público para ponerlas a prueba

El estado de Nueva York ha puesto en marcha el New York Center for AI Responsibility and Research, que reunirá a más de 80 investigadores para evaluar de manera independiente la seguridad y el funcionamiento de modelos avanzados.

Regular, controlar y coordinar el avance de la inteligencia artificial es un objetivo que está sobre la mesa desde que ChatGPT irrumpió en nuestras vidas y la IA generativa empezó a expandirse de forma masiva. Los gigantes de la industria llevan años desarrollando modelos cada vez más potentes. A medida que aumentan sus capacidades, también crece la necesidad de contar con pruebas independientes para saber cómo funcionan y qué riesgos plantean.

Con ese espíritu nace el Centro de Nueva York para la Responsabilidad y la Investigación en IA (New York Center for AI Responsibility and Research), que reunirá a más de 80 investigadores de todo el estado para que evalúen los sistemas más avanzados de inteligencia artificial de las grandes empresas del sector.

Este organismo público tendrá su sede en la Universidad de Binghamton, que forma parte de la Universidad Estatal de Nueva York (SUNY), y busca “promover la investigación sobre la seguridad de la IA, acelerar los descubrimientos científicos y probar de forma independiente sistemas avanzados”, según señala su comunicado.

La gobernadora de Nueva York, Kathy Hochul, señala que se trata de exigir responsabilidades a las grandes compañías tecnológicas y que el estado está liderando en este terreno “mientras el gobierno federal permanece inactivo”. “Hay demasiado en juego como para simplemente creer a las empresas de IA”, añade.

Greg Morrisett, de Cornell Tech, y Jeannette Wing, de la Universidad de Columbia, dos líderes reconocidos internacionalmente en informática y ciberseguridad, compartirán la dirección provisional. El equipo utilizará la infraestructura de supercomputación de Empire AI (una iniciativa público-privada de 500 millones de dólares) para comprobar si los modelos se comportan como se espera y desarrollar métodos de evaluación que sirvan también para las próximas generaciones de IA. Sus resultados podrán orientar las decisiones de las autoridades estatales.

Las exigencias de la ley RAISE de Nueva York

La ley RAISE (Responsible AI Safety and Education Act) fija las obligaciones de seguridad y transparencia para los desarrolladores de modelos de frontera que operan en Nueva York. Su aplicación está a cargo de DIGIT, la oficina estatal que supervisará a los grandes desarrolladores.

DIGIT ya ha abierto el portal en el que estas empresas deberán inscribirse a más tardar el 1 de enero de 2027. Ahí tendrán que publicar sus protocolos de seguridad e informes de transparencia, así como comunicar los incidentes críticos de seguridad en un máximo de 72 horas desde que los detecten o tengan indicios suficientes para creer que han ocurrido.

Si un gran desarrollador omite la notificación de un incidente crítico o incumple sus propios protocolos de seguridad, entre otras infracciones previstas en la ley, la Fiscalía General del estado podrá reclamar sanciones civiles de hasta un millón de dólares por la primera infracción y tres millones por cada infracción posterior.

En la cola:

La cuentan 2 medios. Comparar los titulares de cada uno

Compartir

20 minutosEl texto completo está en el medio de origen.

Leer en 20 minutos