¿Qué tienen en común el Príncipe Harry, Steve Wozniak y Steve Bannon, aliado de Trump?
Están en la lista de más de 850 figuras públicas que acaban de firmar una carta pidiendo detener el desarrollo de superinteligencia artificial. En la lista hay cinco premios Nobel.
¿Qué es eso de la superinteligencia IA?
IA que supera el desempeño humano en todas las tareas útiles.
No es ChatGPT. Es el siguiente nivel. El que está persiguiendo prácticamente toda gran empresa tech ahora mismo.
Según los que organizan la carta, llegará en uno o dos años.
Lo que piden los firmantes (muchos de ellos gente tech que ayudó a llegar hasta donde estamos) no es una prohibición absoluta. Es más bien una pausa hasta que haya consenso científico amplio de que se puede hacer de manera segura y controlable.
Pero los CEOs tech no firmaron. Ni Sam Altman, ni nadie de Meta, ni Elon Musk (que se aventó la declaración nada alarmista de que hay como un 20% de probabilidad de aniquilación con la IA avanzada).
¿Por qué importa?
Porque estamos en la entrada de un cambio de paradigma tech.
Tanto que parte de la comunidad tech y científica está diciendo “ayudamos a crear esto y quizás deberíamos pausar”.
Yoshua Bengio lo resume así: “Los sistemas de IA podrían superar a la mayoría de las personas en la mayoría de tareas cognitivas en unos pocos años. Para avanzar de forma segura hacia la superinteligencia, debemos determinar científicamente cómo diseñar sistemas fundamentalmente incapaces de dañar a las personas”.
Mira más testimonios de los firmantes acá.
Pero: si EE.UU. frenara… ¿lo haría también China?
La carrera por la superinteligencia es como la de la conquista del espacio. Nada ni nadie parece que vaya a frenarla.
Publicado originalmente en http://Espresso Matutino
