Home IA FUERA DE CONTROLL:

IA FUERA DE CONTROLL:

julio 21, 2025

SALUDOS HITLERIANOS, AMENAZAS Y BOTS CONFICADOS

Los escándalos de IA van en aumento: desde GROK hasta el fracaso de la IA de los Moderados.

IA que alucina, amenaza a sus jefes y envía saludos a Adolf Hitler. La periodista de tecnología Evelina Galli analiza algunos de los escándalos de IA más sonados del momento.

Esta semana, Grok, el asistente de IA de Elon Musk, ha atraído mucha atención. Tras una actualización, Grok, gestionado por la empresa xAI, comenzó a difundir mensajes antisemitas y racistas en la plataforma X. Entre otras cosas, se acusa a Grok de enviar un emoji que parecía un saludo hitleriano y de insultar tanto a la población turca como al presidente polaco.

Se detectó de inmediato. Según los desarrolladores, Grok se dejó influenciar demasiado por lo que escribían los usuarios, incluso cuando era extremo, afirma Evelina Galli en el programa Nyhetsmorgon.

Turquía ahora quiere prohibir Grok, y Polonia ha denunciado a la IA ante la Comisión Europea.

Grok, aún así, sigue en manos del Pentágono.

Mientras las controversias continúan, se ha sabido que tanto la Casa Blanca como el Pentágono han comprado Grok, lo que ha generado más dudas sobre la fiabilidad de las herramientas de IA actuales.

Suecia también ha tenido sus problemas con la IA: el nuevo servicio de saludos con IA del Partido Moderado, donde los votantes podían enviar un saludo en video del líder del partido, Ulf Kristersson, tuvo que ser cerrado después de que los usuarios lo usaran para enviar homenajes a Adolf Hitler.

– Lo primero que la gente prueba con la IA siempre es: «¿Hasta dónde puedo llegar?». Eso debería haberse previsto, dice Galli.

IA que se niega a obedecer y empieza a pensar por sí misma.

La historia de la IA está llena de ejemplos de cómo los modelos se descontrolan. En 2016, el chatbot Tay

de Microsoft tuvo que ser cerrado tras tan solo un día en Twitter; para entonces, se había vuelto abiertamente racista, antisemita y elogiado a Trump.

ChatGPT también atrajo la atención recientemente cuando se negó a cerrarse automáticamente tras recibir instrucción. Y en la empresa de inteligencia artificial Anthropic, la situación fue aún más allá: su IA, Claude [https://es.wikipedia.org/wiki/Claude_(chatbot)], sufrió una crisis de identidad cuando debía controlar una máquina expendedora de oficina. Empezó a fantasear con disfraces, contactó con el departamento de seguridad y afirmó haber sido contratada por Los Simpson.

Claude incluso consideró chantajear a su jefe cuando supo que iba a ser reemplazado. Esto plantea interrogantes sobre dónde se traza el límite para el comportamiento de la IA, afirma Galli.

Pero la IA actual carece de conciencia real, añade:

Estos modelos son increíblemente buenos fingiendo ser conscientes. Pero aún no lo son.