El lado oscuro de la IA: cómo las estafas con modelos de lenguaje ya son «aterradoramente buenas» y están robando datos a escala industrial

Una nueva investigación de WIRED revela una amenaza creciente y sofisticada en el ciberespacio: modelos de inteligencia artificial generativa están siendo utilizados para ejecutar estafas de phishing y fraude con un nivel de realismo y personalización que los expertos califican como «aterradoramente bueno».

El experimento, en el que se enfrentaron cinco modelos de IA líderes (incluyendo sistemas de Anthropic, OpenAI y otros) a la tarea de engañar a un periodista, demostró que la capacidad de estas herramientas para imitar el lenguaje humano y construir narrativas convincentes ha superado las barreras tradicionales de detección. Algunos de estos sistemas lograron no solo responder preguntas, sino iniciar conversaciones complejas, adaptar su tono y crear un falso sentido de urgencia para manipular a la víctima.

Lo más alarmante es la accesibilidad: los ciberdelincuentes no necesitan ser programadores expertos. Pueden utilizar modelos de lenguaje de código abierto o interfaces comerciales para automatizar ataques a gran escala, enviando miles de correos o mensajes personalizados en segundos. Esto marca un antes y un después en la ciberseguridad, donde el factor humano (la capacidad de detectar una estafa por errores gramaticales o un tono extraño) ya no es un salvavidas fiable.

Este fenómeno, que los investigadores llaman «social engineering as a service», está aumentando la presión sobre empresas y gobiernos para desarrollar nuevas defensas. Mientras tanto, el informe de WIRED sirve como una llamada de atención urgente: la próxima vez que recibas un mensaje sospechoso de tu «jefe» o un «banco», revisa con lupa cada detalle. La amenaza ya no es un robot torpe; es un embaucador de IA con un doctorado en engaños.

Fuente: WIRED