Un edificio de oficinas en Berkeley se ha convertido en el centro neur\u00e1lgico de una red que lleva a\u00f1os advirtiendo de algo muy concreto: que la inteligencia artificial podr\u00eda acabar extinguiendo a la humanidad. El espacio, llamado Constellation, agrupa a investigadores, emprendedores y simpatizantes del altruismo eficaz<\/a> que han influido en el debate p\u00fablico, en la cultura de empresas como Anthropic y en las discusiones sobre regulaci\u00f3n de la IA.<\/p>\n <\/p>\n Qu\u00e9 es Constellation<\/strong>. En su p\u00e1gina web<\/a> el Constellation Institute se presenta como \u00abuna organizaci\u00f3n sin fines de lucro que trabaja para garantizar que la IA transformadora se desarrolle, despliegue y gobierne de manera segura\u00bb. Alertan de que la IA puede \u00abimpulsar una prosperidad humana sin precedentes\u00bb, pero tambi\u00e9n llevarnos a escenarios catastr\u00f3ficos como:<\/p>\n El futuro que pintan es muy poco alentador, por eso se organizan para reducir riesgos \u00abmediante el desarrollo del talento, el apoyo a los actores clave y la creaci\u00f3n de espacios para la coordinaci\u00f3n\u00bb.<\/p>\n <\/p>\n El coworking de los <\/strong>doomers<\/em><\/strong>. Lo cuentan en el Wall Street Journal<\/a>. En la pr\u00e1ctica, Constellation funciona como un coworking, centro de reuniones y nodo f\u00edsico de la comunidad de \u00abseguridad de la IA\u00bb. Es, en otras palabras, el cuartel general donde se coordinan las personas que m\u00e1s hablan de apocalipsis por IA\u00a0<\/a>y que han influido en la cultura interna de empresas como Anthropic y en el debate p\u00fablico sobre c\u00f3mo regular esta tecnolog\u00eda.<\/p>\n De d\u00f3nde surge y quienes lo forman. <\/strong>Constellation nace de la subcultura del altruismo eficaz y el racionalismo, una comunidad que lleva m\u00e1s de una d\u00e9cada centrada alertando de los posibles riesgos de la IA. Una de las principales figuras es Eliezer Yudkowsky, fundador del Machine Intelligence Research Institute<\/a> (MIRI) y creador de la comunidad LessWrong<\/a>. Tambi\u00e9n es, junto a Nate Soares, el autor del libro ‘If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All’<\/a>.<\/p>\n <\/p>\n En este entorno se formaron muchos de los primeros empleados y cofundadores de Anthropic, incluido el propio Dario Amodei y su hermana, Daniela Amodei. Los hermanos se han desvinculado del altruismo eficaz tras el ingreso en prisi\u00f3n del gur\u00fa de las criptomonedas Sam Bankman-Fried<\/a>, otra de las figuras clave del movimiento.<\/p>\n <\/p>\n El momento actual<\/strong>. La influencia de esta red salt\u00f3 a la primera plana hace varias semanas, cuando un exingeniero de Anthropic acus\u00f3 a los laboratorios de IA de estar \u00abjugando con nuestras vidas\u00bb. Poco despu\u00e9s, el jefe de alineamiento de Anthropic, Evan Hubinger, le daba la raz\u00f3n y sub\u00eda la apuesta diciendo que \u00a0cree que hay un 10% de posibilidades de que la IA acabe con todos nosotros en la pr\u00f3xima d\u00e9cada. Hubinger tambi\u00e9n tiene lazos con esta comunidad y de hecho ha trabajado en el MIRI. Vaya, que todo queda en casa.<\/p>\n <\/p>\n Imagen | Constellation Institute<\/a><\/p>\n\n
\n![\"Anthropic](\"https:\/\/i.blogs.es\/b4490d\/metr\/375_142.jpeg\")
\n<\/a><\/div>\n<\/div>\n<\/div>\n<\/div>\n