La Casa Blanca ha anunciado su apoyo a un evento de hackeo masivo para evaluar la seguridad de los chatbots de IA más conocidos. El evento se llevará a cabo en agosto de este año durante la conferencia de seguridad Defcon en Las Vegas y contará con la participación de Google, Microsoft y OpenAI, entre otras compañías. El objetivo de este ejercicio independiente es proporcionar información crítica a los investigadores y al público sobre los impactos de los modelos de IA generativa. También permitirá que las compañías desarrolladoras tomen medidas para solucionar cualquier problema que se encuentre en sus modelos.
Hasta 4.000 piratas informáticos tendrán la oportunidad de evaluar la tecnología detrás de los programas de IA, como ChatGPT de OpenAI, Bard de Google y Stable Diffusion y Hugging Face de Stability AI. Se espera que el hackeo masivo ayude a detectar vulnerabilidades o eludir los mecanismos de seguridad de estas herramientas. Este ejercicio de hackeo masivo se considera el más grande hasta ahora para la industria de la IA generativa, y los organizadores esperan que los piratas informáticos se involucren de tal manera que ayuden a definir el próximo gran salto tecnológico en estos desarrollos.
La Casa Blanca también anunció una inversión de 140 millones de dólares en la creación de siete nuevos Institutos Nacionales de Investigación de la IA, que se centrarán en el desarrollo de una IA ética y transformadora para el bien público. La movida del gobierno demócrata de EE. UU. ocurre en la antesala de las próximas elecciones presidenciales y se produce en un momento en que los gobiernos de todo el mundo están comenzando a reglamentar los nuevos desarrollos de IA.
Además, el hackeo masivo de chatbots de IA también tiene lugar en un momento en el que ha habido un creciente interés por la transparencia y la ética en el desarrollo de la IA. A medida que la tecnología ha avanzado rápidamente en los últimos años, ha habido un aumento en las preocupaciones sobre cómo se utilizan y los posibles impactos que pueden tener en la sociedad.
Es por eso que la Casa Blanca ha anunciado su inversión en la creación de siete nuevos Institutos Nacionales de Investigación de IA, que se centrarán en el desarrollo de una IA ética y transformadora para el bien público. Este enfoque en la ética y la transparencia es crucial para garantizar que la IA se utilice de manera responsable y para beneficio de la sociedad en general.
En general, el hackeo masivo de chatbots de IA es una oportunidad para evaluar la seguridad y la eficacia de la tecnología, y para hacer que los desarrolladores de IA sean más transparentes en su proceso de desarrollo. También es una muestra del creciente interés en la regulación y la ética en el desarrollo de la IA, y de cómo la tecnología puede ser utilizada de manera responsable para el bien público.
Comments