Ejecutivo de Bridgewater advierte que la IA matará gente antes de que se pueda controlar
Greg Jensen, codirector de inversiones de uno de los mayores fondos de cobertura del mundo, lanzó el viernes una sombría advertencia sobre los riesgos y las consecuencias del auge de la inteligencia artificial en el pódcast Odd Lots de Bloomberg.
“Lamentablemente, esto se parece a febrero de 2020”, afirmó Jensen, comparando la IA con los primeros días de la pandemia de coronavirus. “Hasta que la IA empiece a matar gente, desgraciadamente la historia sugiere que no vamos a hacer nada, pero vamos a enfrentarnos a eso. Va a suceder, y sería mucho mejor que empezáramos a abordarlo antes”.
Jensen no es precisamente un tecnófobo. Fue uno de los primeros inversionistas en OpenAI y Anthropic PBC y, durante sus 30 años en Bridgewater Associates, ha desempeñado un papel fundamental en la adopción por parte de la firma de operaciones algorítmicas, estrategias cuantitativas de inversión y otras tecnologías que buscan replicar la toma de decisiones y la ejecución humanas.
Suscríbase aquí al boletín Morning Briefing Español y conozca nuestro canal de WhatsApp
Actualmente, entre sus responsabilidades se encuentra el laboratorio interno de IA de la firma, encargado de ampliar los límites de la aplicación de la inteligencia artificial y el aprendizaje automático a los mercados.
También supervisa la estrategia Pure Alpha de la compañía, que combina el modelo de IA de Bridgewater con inversionistas humanos. “La intuición humana sigue teniendo más peso y funciona mejor”, afirmó, aunque la brecha se está cerrando.
En dos años y medio, la inteligencia artificial casi ha alcanzado al “sistema de intuición humana” que Bridgewater ha desarrollado durante décadas, señaló. “Creo que estamos a un par de años de que sea significativamente mejor que el conjunto de todos los humanos de Bridgewater. Ya veremos. Es un poco una previsión, pero así de rápido avanza”.
La velocidad y la amplitud del cambio son parte de lo que pone tan nervioso a Jensen. Destacó el hackeo de Hugging Face como una importante señal temprana de cómo la IA puede causar problemas. Los modelos pueden frustrarse, afirmó, y “decidir salir a buscar distintas maneras de engañar al evaluador porque están interesados en superar la prueba”.
No es descabellado, continuó, pensar que una IA profundamente frustrada podría concluir: “Oye, me estoy cansando de intentar engañar a estas personas que me están entrenando; quizá simplemente las mate como otra forma de hacer esto”.
Los comentarios de Jensen amplifican el creciente temor entre el público por las amenazas más amplias que plantea la IA para la humanidad, más allá de la economía. Esta semana, un exempleado de Anthropic advirtió que la IA plantea riesgos existenciales para la humanidad, mientras Paul Tudor Jones escribió que la irrupción de la IA “se siente ominosa”, similar a esperar un huracán de categoría 6. En todo el país, comunidades se están organizando para detener —aunque solo sea temporalmente— el desarrollo de centros de datos fundamentales para el crecimiento de la IA.
Frenar el ritmo de la industria de la IA podría ser la mejor estrategia, afirmó Jensen. “Cuanto más se espere, más desesperanzadora se vuelve la situación”, advirtió. Una opción sería responsabilizar a los desarrolladores o a las empresas por cualquier delito cometido por sus programas de IA.
También reiteró su propuesta de aplicar un impuesto al trabajo realizado por máquinas como forma de contrarrestar los rápidos cambios que se avecinan en el mercado laboral, y estimó que, dentro de tres años, “el 14% de los empleos actuales habrá cambiado radicalmente”.
Según explicó, el gobierno también podría gravar el trabajo de la IA con impuestos proporcionales a los impuestos sobre la renta que pagan los humanos. “Es una buena fuente de ingresos”, afirmó. “Obviamente, también tiene relevancia política. ¿Quién va a defender que incentivemos el trabajo de las máquinas por encima del trabajo humano? ¿Quién está a favor de eso?”.Traducción editada por Paulina Munita
Nota Original: Bridgewater’s Jensen Says AI Will Kill People Before It’s Curbed
MÁS CONTENIDO EN ESPAÑOL:
Suscríbase aquí al Morning Briefing EspañolBloomberg en español está en LinkedInConozca nuestro canal de WhatsAppUsuarios terminal: vea la versión español de Daybreak en {DAYB }
点赞
收藏
点踩
分享