El profesor Stuart Russell fue uno de los más de 1000 expertos que el mes pasado firmaron una carta abierta pidiendo una pausa de seis meses en el desarrollo de sistemas aún más capaces que el GPT-4 recientemente lanzado por OpenAI , el sucesor de su chatbot en línea ChatGPT, que es alimentado por GPT-3.5.
En declaraciones a Sophy Ridge de Sky, el profesor Russell dijo sobre la carta: “La firmé porque creo que es necesario decir que no entendemos cómo funcionan estos sistemas [más poderosos]. No sabemos de qué son capaces. de. Y eso significa que no podemos controlarlos, no podemos hacer que se comporten”.
Dijo que “la gente estaba preocupada por la desinformación, por los prejuicios raciales y de género en los resultados de estos sistemas”.
Y argumentó que con la rápida progresión de la IA , se necesitaba tiempo para “desarrollar las regulaciones que garantizarán que los sistemas sean beneficiosos para las personas en lugar de perjudiciales”.
Dijo que una de las mayores preocupaciones era la desinformación y las falsificaciones profundas (videos o fotos de una persona en la que su rostro o cuerpo ha sido alterado digitalmente para que parezca otra persona, por lo general se usa de manera maliciosa o para difundir información falsa).
Dijo que aunque la desinformación ha existido durante mucho tiempo con fines de “propaganda”, la diferencia ahora es que, usando a Sophy Ridge como ejemplo, podría pedirle a GPT-4 que intente “manipularla” para que ella “apoye menos a Ucrania”.
Dijo que la tecnología leería la presencia de Ridge en las redes sociales y lo que ella haya dicho o escrito, y luego llevaría a cabo una campaña gradual para “ajustar” su fuente de noticias.
El profesor Russell le dijo a Ridge: “La diferencia aquí es que ahora puedo pedirle a GPT-4 que lea todo sobre la presencia de Sophy Ridge en las redes sociales, todo lo que Sophy Ridge haya dicho o escrito alguna vez, todo sobre los amigos de Sophy Ridge y luego comenzar una campaña gradualmente ajustando su fuente de noticias, tal vez ocasionalmente enviando algunas noticias falsas a su fuente de noticias para que apoye un poco menos a Ucrania, y comience a presionar más a los políticos que dicen que debemos apoyar a Ucrania en la guerra contra Rusia y así sucesivamente.
“Eso será muy fácil de hacer. Y lo realmente aterrador es que podríamos hacerle eso a un millón de personas diferentes antes del almuerzo”.
El experto, que es profesor de ciencias de la computación en la Universidad de California, Berkeley, advirtió sobre “un gran impacto con estos sistemas para empeorar al manipular a las personas de maneras que ni siquiera se dan cuenta de lo que está sucediendo”.
Ridge lo describió como “realmente realmente aterrador” y preguntó si ese tipo de cosas estaban sucediendo ahora, a lo que el profesor respondió: “Muy probablemente, sí”.
Dijo que China, Rusia y Corea del Norte tienen grandes equipos que “expulsan desinformación” y con la IA “les hemos dado una herramienta poderosa”.
“La preocupación de la carta es realmente sobre la próxima generación del sistema. En este momento, los sistemas tienen algunas limitaciones en su capacidad para construir planes complicados”.
Sugirió que bajo la próxima generación de sistemas, o la siguiente, las corporaciones podrían ser administradas por sistemas de IA. “Se podían ver campañas militares organizadas por sistemas de inteligencia artificial”, agregó.
“Si estás construyendo sistemas que son más poderosos que los seres humanos, ¿cómo pueden los seres humanos mantener el poder sobre esos sistemas para siempre? Esa es la verdadera preocupación detrás de la carta abierta”.
El profesor dijo que estaba tratando de convencer a los gobiernos de la necesidad de comenzar a planificar con anticipación para cuando “necesitemos cambiar la forma en que funciona todo nuestro ecosistema digital”.
Desde su lanzamiento el año pasado, ChatGPT de OpenAI respaldado por Microsoft ha llevado a los rivales a acelerar el desarrollo de modelos de lenguaje grandes similares y ha alentado a las empresas a integrar modelos de IA generativa en sus productos.
Reino Unido presenta propuestas de regulaciones de ‘toque ligero’ en torno a la IA
Se produce cuando el gobierno del Reino Unido presentó recientemente propuestas para un marco regulatorio de “toque ligero” en torno a la IA.
El enfoque del gobierno, descrito en un documento de política, dividiría la responsabilidad de gobernar la IA entre sus reguladores de derechos humanos, salud y seguridad y competencia, en lugar de crear un nuevo organismo dedicado a la tecnología.