En una coalición inusual, el príncipe Harry, Meghan Markle y figuras destacadas del mundo de la tecnología, la política y el entretenimiento han unido fuerzas con los comentaristas conservadores Steve Bannon y Glenn Beck. ¿Su causa común? Una demanda de prohibición del desarrollo de una IA ultrapotente y “superinteligente” que temen que pueda amenazar el futuro de la humanidad.El llamado a la acción, organizado por la organización sin fines de lucro Future of Life Institute, está dirigido directamente a gigantes tecnológicos como Google, AbiertoAIy Meta, que están inmersos en una carrera de alto riesgo para construir una Inteligencia Artificial que pueda superar a los humanos en casi todas las tareas cognitivas.
Una demanda simple y cruda
La declaración del grupo es una advertencia concisa de 30 palabras: “Pedimos una prohibición sobre el desarrollo de la superinteligencia, que no se levantará antes de que haya un amplio consenso científico de que se hará de forma segura y controlable, y una fuerte aceptación pública”.La carta reconoce que la IA puede aportar beneficios como nuevas curas y prosperidad económica. Sin embargo, advierte sobre un lado oscuro, afirmando que el objetivo de crear superinteligencia genera temores de “obsolescencia y pérdida de poder económico humano, pérdidas de libertad, libertades civiles, dignidad y control, riesgos para la seguridad nacional e incluso una posible extinción humana”, citó AP.
Una alianza improbable por una causa común
La lista de firmantes es notablemente diversa y cruza profundas divisiones políticas y profesionales en un esfuerzo por mostrar una preocupación generalizada.El Príncipe Harry, en una nota personal, afirmó: “el futuro de la IA debería servir a la humanidad, no reemplazarla. Creo que la verdadera prueba del progreso no será qué tan rápido nos movamos, sino qué tan sabiamente nos dirigimos. No hay una segunda oportunidad”. Meghan, la duquesa de Sussex, también firmó, según informa AP.A ellos se unieron pioneros de la IA que ayudaron a crear la tecnología que ahora causa alarma. Yoshua Bengio y Geoffrey Hinton, ambos ganadores del Premio Turing, agregaron sus nombres. Hinton, quien recientemente también ganó un Premio Nobel en física, ha expresado su opinión sobre los peligros.La inclusión de Steve Bannon y Glenn Beck señala un intento de atraer a un amplio espectro político, incluidos los partidarios del ex presidente. Donald Trump.Otros signatarios notables incluyen Manzana el cofundador Steve Wozniak, el multimillonario Richard Branson, el ex general de alto rango estadounidense Mike Mullen y barack obamaSusan Rice, asesora de seguridad nacional. actores Esteban Fry y Joseph Gordon-Levitt también firmaron.Gordon-Levitt, cuya esposa estuvo anteriormente en la junta directiva de OpenAI, comentó: “Sí, queremos herramientas de IA específicas que puedan ayudar a curar enfermedades, fortalecer la seguridad nacional, etc.”Añadió además: “¿Pero la IA también necesita imitar a los humanos, preparar a nuestros hijos, convertirnos a todos en adictos a la basura y ganar millones de dólares publicando anuncios? La mayoría de la gente no quiere eso”.
¿El miedo está justificado o es sólo exageración?
Es probable que esta carta alimente los debates en curso dentro de la comunidad tecnológica sobre cuán real es la amenaza de una IA sobrehumana.Max Tegmark, presidente del Future of Life Institute, señaló que las críticas se han generalizado. “En el pasado, la lucha era principalmente entre nerds y nerds”, dijo. “Siento que lo que realmente estamos viendo aquí es cómo las críticas se han generalizado”.Lo que complica el problema es que las mismas empresas que desarrollan esta tecnología a veces exageran la capacidad de sus productos para atraer inversores, creando lo que algunos temen que sea una “burbuja de IA”.Ésta no es la primera advertencia del grupo de Tegmark. En marzo de 2023, pidieron una pausa temporal en el desarrollo de potentes modelos de IA. Esa petición fue ignorada por las principales empresas, incluido su firmante más famoso, Elon Musk, que simultáneamente estaba iniciando su propia empresa de inteligencia artificial.Cuando se le preguntó si se había acercado a Musk nuevamente, Tegmark dijo que se comunicó con todos los principales directores ejecutivos de IA, pero que no esperaba que firmaran. Expresó su simpatía por su posición, atrapada en una carrera competitiva. “Creo que por eso es tan importante estigmatizar la carrera hacia la superinteligencia, hasta el punto en que el gobierno de Estados Unidos simplemente intervenga”, concluyó.
