Si bien el ejército de EE. UU. está ansioso por hacer uso de la inteligencia artificial generativa, el funcionario de mayor rango del Pentágono a cargo de acelerar sus capacidades de IA advierte que también podría convertirse en la “herramienta perfecta” para la desinformación.
“Sí, estoy muerta de miedo. Esa es mi opinión”, dijo hoy Craig Martell, director digital y de IA del Departamento de Defensa , en la conferencia TechNet Cyber ??de AFCEA en Baltimore cuando se le preguntó sobre sus pensamientos sobre la IA generativa.
Martell se refería específicamente a los modelos de lenguaje de IA generativa, como ChatGPT, que plantean un “problema fascinante”: no entienden el contexto y las personas tomarán sus palabras como un hecho porque los modelos hablan con autoridad, dijo Martell.
“Aquí está mi mayor temor sobre ChatGPT”, dijo. “Ha sido entrenado para expresarse con fluidez. Habla con fluidez y autoridad. Así que lo crees incluso cuando está mal… Y eso significa que es una herramienta perfecta para la desinformación… Realmente necesitamos herramientas para poder detectar cuando eso está sucediendo y poder advertir cuando eso está sucediendo.
“Y no tenemos esas herramientas”, continuó. “Estamos atrasados ??en esa lucha”.
Martell, quien fue contratado por el Departamento de Defensa el año pasado del sector privado, tiene una amplia experiencia en inteligencia artificial en su haber. Antes de su trabajo en CDAO, fue jefe de aprendizaje automático en Lyft y Dropbox, dirigió varios equipos de IA en LinkedIn y fue profesor en la Escuela Naval de Posgrado durante más de una década estudiando IA para el ejército.
Imploró a la industria en la conferencia que construya las herramientas necesarias para garantizar que la información generada a partir de todos los modelos generativos de IA, desde el lenguaje hasta las imágenes, sea precisa.
“Si le preguntas a ChatGPT ‘¿Puedo confiar en ti?’, su respuesta es un largo ‘No’”, dijo a la audiencia. “No estoy bromeando. Dice que soy una herramienta y te voy a dar una respuesta y te corresponde a ti ir a verificarlo tú mismo. Entonces, mi temor sobre… usar ChatGPT, a diferencia de los temores de que nuestros adversarios lo usen… es que confiamos demasiado en él sin que los proveedores del servicio construyan las garantías adecuadas y la capacidad para que nosotros lo validemos”.
La advertencia de Martell se produce cuando los líderes del Pentágono anticipan formas de utilizar la IA generativa para la recopilación de inteligencia y la guerra futura. El martes en la conferencia, el teniente general Robert Skinner, director de la Agencia de Sistemas de Información de Defensa (DISA), comenzó su discurso de apertura utilizando una IA generativa que clonó su voz y pronunció sus comentarios de apertura.
“Yo diría que la IA generativa es probablemente una de las tecnologías e iniciativas más disruptivas en mucho, mucho tiempo”, dijo Skinner después de revelar que su introducción fue generada por IA. “Aquellos que aprovechen eso y puedan entender cómo aprovecharlo mejor, pero también cómo protegerse mejor contra él, serán los que tendrán la ventaja”.
Cuando se le pidió hoy que respondiera a los pensamientos de Martell, Skinner dijo a los periodistas que “no le teme a la IA generativa”, pero que será un “desafío para que brille el espíritu innovador dentro del Departamento de Defensa”.
Stephen Wallace, director de tecnología de DISA, dijo que la agencia busca aprovechar la IA generativa de varias maneras, desde “capacidades administrativas… generación de contratos, etiquetado de datos”.
“La cantidad de solicitudes es muy amplia”, dijo Wallace a los periodistas. “Siempre decimos que no podemos ‘la gente a nuestra manera de salir de los problemas’. Y esta es una forma de aumentar nuestros equipos, mejorarlos y, en última instancia, ofrecer capacidades en todos los ámbitos”.