La Casa Blanca anunció que apoyará un ejercicio de hackeo masivo para evaluar los chatbots de IA más famosos. La actividad se realizará en agosto de este año en Las Vegas, durante la conferencia de seguridad Defcon, el evento más importante en su tipo en todo el mundo. Google, Microsoft y OpenAI han confirmado que participarán.

«Este ejercicio independiente proporcionará información crítica a los investigadores y al público sobre los impactos de estos modelos», explicó el gobierno de EE.UU. en un comunicado. La idea, además, es que las compañías desarrolladoras puedan tomar medidas para solucionar los problemas que se encuentren en sus modelos.

El anuncio se produjo horas antes de una reunión entre el presidente Joe Biden y los altos representantes de Google, OpenAI y Microsoft. El evento era una posibilidad remota hace tan solo unas semanas, antes de que todas las grandes compañías de IA confirmaran repentinamente que participarían, dijeron a Forbes sus organizadores.

Hasta 4.000 piratas informáticos podrán meterle mano a la tecnología que ha revolucionado al mundo en los últimos meses. Este evento de hackeo masivo abrirá el código para programas de IA como ChatGPT de OpenAI, Bard de Google, Stable Diffusion y Hugging Face de Stability AI. La idea es detectar vulnerabilidades o eludir los mecanismos de seguridad de estas herramientas.

El ejercicio de hackeo masivo es algo que la industria de la IA «debe hacer por su propio bien», señaló Sven Cattell, uno de los líderes de la Defcon, a Forbes. Dijo que este ejercicio sobre IA generativa es el más grande realizado hasta ahora.

La actividad pretende ser una oportunidad para que los desarrolladores brinden transparencia, en medio de la incertidumbre que han generado los sistemas de IA generativa. Una incertidumbre impulsada, en muchos casos, por la opacidad con la que han actuado hasta ahora varias de estas compañías.

Cattell y el resto de los organizadores del hackeo masivo esperan que no solo expongan importantes problemas de seguridad y protección de estas IA. La apuesta es a que los piratas informáticos se involucren de tal manera que ayuden a definir el próximo gran salto tecnológico en estos desarrollos.

Vía: Hipertextual