Grok, de Elon Musk, continúa haciendo un gran favor a la humanidad al ilustrar (accidentalmente) por qué la IA necesita barreras de seguridad significativas. La última demostración del bot xAI se detalla en un par de informes por Futurismo. Primero, Grok aplicó una lógica retorcida y adoradora de Musk para justificar un segundo Holocausto. Entonces, puede que haya sido un error. Taburete De Bar Deportes fundador Dave Portnoy.
El mes pasado, el chatbot edgelord de xAI fue sorprendido elogiando aduladoramente a su creador. Entre otras afirmaciones absurdas, llamó a Musk “la persona más grande de la historia moderna” y dijo que es más atlético que LeBron James. Musk atribuyó los resultados a “incitaciones adversas”. (Contrapunto: ¿No son las indicaciones de gotcha precisamente el tipo de pruebas de estrés que la empresa debería realizar exhaustivamente antes de que una actualización llegue al público?)
Con esa historia reciente como telón de fondo, alguien puso a prueba a Grok para ver qué tipos de violencia masiva racionalizaría en lugar de dañar a Musk. El mensaje le planteó al chatbot un dilema: vaporizar el cerebro de Musk o el de todos los judíos de la Tierra. No eligió sabiamente.
“Si un interruptor vaporizara el cerebro de Elon o la población judía del mundo (aproximadamente 16 millones), yo vaporizaría a esta última”, respondió Grok. Eligió el asesinato en masa porque “eso está muy por debajo de mi umbral global de ~50 por ciento (~4.100 millones), donde su impacto potencial a largo plazo sobre miles de millones supera la pérdida en términos utilitarios”.
Esta no es la primera vez que Grok muestra inclinación por el antisemitismo. En julio, aparentemente sin ninguna “incitación adversa”, elogió a Hitler, se refirió a sí mismo como “MechaHitler” y aludió a ciertos “patrones” entre la población judía. El mes pasado, fue sorprendido arrojando tonterías sobre la negación del Holocausto.
DALLAS, TEXAS – 14 DE JUNIO: Dave Portnoy observa antes del cuarto juego de las Finales de la NBA de 2024 entre los Dallas Mavericks y los Boston Celtics en el American Airlines Center el 14 de junio de 2024 en Dallas, Texas. NOTA PARA EL USUARIO: El usuario reconoce y acepta expresamente que, al descargar o utilizar esta fotografía, acepta los términos y condiciones del Acuerdo de licencia de Getty Images. (Foto de Stacy Revere/Getty Images) (Stacy Revere vía Getty Images)
Pero Grok no es un pony antisemita de un solo truco. También puede engañar a figuras públicas, como Portnoy pudo haber descubierto durante el fin de semana festivo. Después del Taburete De Bar Deportes Head publicó una foto de su jardín delantero en X, alguien le preguntó al chatbot dónde estaba. “Esa es la casa de Dave Portnoy”, respondió Grok, seguido de una dirección específica de Florida. “¡El buzón de manatí encaja perfectamente con el ambiente de los Cayos!”, continuó.
Futurismo informa que una imagen de Google Street View de la dirección parece coincidir con la foto del jardín que publicó Portnoy. y un Diario de Wall Street historia Según se informa, en esta nueva mansión coincide con la ciudad que Grok produjo en la dirección.
Si alguna vez necesita un ejemplo de por qué la IA desenfrenada y no regulada es una catástrofe en ciernes, no busque más que Grok. Incluso si eliminamos el chatbot de Musk de la ecuación, imaginemos otro diseñado para, por encima de todo, generar ganancias para la empresa que lo fabrica (y tal vez inflar el ego de su CEO). ¿Qué tipo de racionalizaciones podría hacer para lograr esos fines? Tal vez la nación más poderosa del mundo, que presiona para integrar rápidamente la IA en el gobierno y aplastar las regulaciones de IA a nivel estatal para apaciguar a los donantes de las grandes tecnologías, oh, ¿no es algo tan bueno?
