{"id":22035,"date":"2025-07-21T17:39:23","date_gmt":"2025-07-21T16:39:23","guid":{"rendered":"https:\/\/telecomkh.info\/?p=22035"},"modified":"2025-07-21T17:39:23","modified_gmt":"2025-07-21T16:39:23","slug":"los-ciber-delincuentes-aprovechan-los-grandes-modelos-de-lenguaje-para-automatizar-sus-ataques","status":"publish","type":"post","link":"https:\/\/telecomkh.info\/?p=22035","title":{"rendered":"Los ciber-delincuentes aprovechan los grandes modelos de lenguaje para automatizar sus ataques"},"content":{"rendered":"

Cisco Talos advierte sobre el incremento en el uso de LLMs, tanto leg\u00edtimos como modificados, para crear y extender malware y perfeccionar campa\u00f1as de phising<\/strong><\/p>\n

Cisco Talos, la divisi\u00f3n de ciber-inteligencia de Cisco, advierte sobre una tendencia preocupante: los ciber-delincuentes est\u00e1n aprovechando cada vez m\u00e1s los grandes modelos de lenguaje (LLMs) para automatizar y mejorar sus ciberataques. Seg\u00fan la investigaci\u00f3n, los actores maliciosos no s\u00f3lo est\u00e1n explotando los servicios de IA p\u00fablicos, tambi\u00e9n utilizan modelos personalizados y versiones \u2018con jailbreak\u2019. Estas herramientas les permiten orquestar campa\u00f1as de phishing convincentes y escribir c\u00f3digo malicioso complejo.
\nGracias a su capacidad para generar texto persuasivo, resolver problemas y escribir c\u00f3digo, los LLMs est\u00e1n ganando popularidad en todos los sectores. Seg\u00fan Hugging Face, plataforma que aloja LLMs, actualmente hay m\u00e1s de 1,8 millones de modelos disponibles. La mayor\u00eda est\u00e1n equipados con salvaguardas y limitaciones incorporadas (\u2018barandillas y \u2018alineaciones\u2019) para evitar usos delictivos.<\/p>\n

LLMs sin restricciones<\/strong>
\nSin embargo, Cisco Talos ha identificado un n\u00famero significativo de LLMs sin restricciones que permiten a los ciberdelincuentes elaborar mensajes de phishing altamente realistas y comunicaciones fraudulentas, a menudo libres de errores gramaticales o frases sospechosas. Esto aumenta la probabilidad de que las v\u00edctimas revelen informaci\u00f3n personal o corporativa.
\nEjemplos de estos modelos son Ollama y WhiteRabbitNeo, este \u00faltimo promocionado como herramienta para operaciones de ciberseguridad tanto defensivas como ofensivas. El an\u00e1lisis de Cisco tambi\u00e9n destaca los m\u00e9todos para eliminar las restricciones integradas (alineaciones). Los usuarios pueden modificar los conjuntos de datos de entrenamiento y ajustar los modelos base para eliminar restricciones, facilitando as\u00ed un uso indebido.<\/p>\n

LLMs maliciosos personalizados<\/strong>
\nAlgunos ciber-delincuentes han ido m\u00e1s all\u00e1 desarrollando sus propios LLMs y promovi\u00e9ndolos en la web oscura. Estos LLMs maliciosos pueden crear software da\u00f1ino de forma aut\u00f3noma, como ransomware, troyanos de acceso remoto, shellcode y diversos scripts.
\nAdem\u00e1s, estas herramientas maliciosas ayudan a generar correos de phishing, p\u00e1ginas de destino y archivos de configuraci\u00f3n. Tambi\u00e9n pueden verificar datos de tarjetas de cr\u00e9dito robadas, escanear sitios web en busca de vulnerabilidades e idear nuevas estrategias delictivas. Ejemplos de este tipo de aplicaciones maliciosas son GhostGPT, WormGPT, DarkGPT, DarkestGPT y FraudGPT. Talos ha detectado que FraudGPT, en particular, forma parte de una campa\u00f1a de estafa m\u00e1s amplia.<\/p>\n

Abuso de LLMs leg\u00edtimos<\/strong>
\nDada la viabilidad limitada de los LLMs sin restricciones y al alto riesgo de estafa con modelos maliciosos, muchos ciber-delincuentes optan por explotar modelos leg\u00edtimos. Estos modelos ofrecen una plataforma potente, siempre que lo atacantes puedan eludir las medidas de seguridad integradas.
\nLas principales barreras son las directrices de formaci\u00f3n y las medidas de seguridad que impiden respuestas a consultas poco \u00e9ticas o ilegales. Para superarlas, los ciber-delincuentes emplean t\u00e9cnicas como la inyecci\u00f3n inmediata, que intenta hacer jailbreak a los modelos y eludir sus limitaciones.
\n\u201cPara combatir el uso indebido de grandes modelos de lenguaje, las organizaciones deben adaptar sus medidas de seguridad en consecuencia\u201d, destaca \u00c1ngel Ortiz, Director de Ciberseguridad en Cisco Espa\u00f1a. \u201cEsto implica monitorizar el tr\u00e1fico relacionado con la IA, detectar avisos sospechosos y capacitar a los empleados para reconocer los correos electr\u00f3nicos de phishing generados por la IA. Adem\u00e1s, recomendamos encarecidamente trabajar exclusivamente con modelos de confianza y plataformas bien protegidas\u201d.<\/p>\n

Arriba, imagen cortes\u00eda de Cisco<\/em><\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

Cisco Talos advierte sobre el incremento en el uso de LLMs, tanto leg\u00edtimos como modificados, para crear y extender malware y perfeccionar campa\u00f1as de phising Cisco Talos, la divisi\u00f3n de ciber-inteligencia de Cisco, advierte sobre una tendencia preocupante: los ciber-delincuentes est\u00e1n aprovechando cada vez m\u00e1s los grandes modelos de lenguaje (LLMs) para automatizar y mejorar … <\/p>\n

Continue reading \u00abLos ciber-delincuentes aprovechan los grandes modelos de lenguaje para automatizar sus ataques\u00bb<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":22036,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[7],"tags":[],"_links":{"self":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts\/22035"}],"collection":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=22035"}],"version-history":[{"count":1,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts\/22035\/revisions"}],"predecessor-version":[{"id":22037,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts\/22035\/revisions\/22037"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/media\/22036"}],"wp:attachment":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=22035"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=22035"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=22035"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}