{"id":10763,"date":"2023-02-09T13:10:46","date_gmt":"2023-02-09T12:10:46","guid":{"rendered":"https:\/\/telecomkh.info\/?p=10763"},"modified":"2023-02-09T13:11:24","modified_gmt":"2023-02-09T12:11:24","slug":"los-cibercriminales-se-saltan-las-restricciones-de-chatgpt-para-seguir-creando-malware","status":"publish","type":"post","link":"https:\/\/telecomkh.info\/?p=10763","title":{"rendered":"Los cibercriminales se saltan las restricciones de ChatGPT para seguir creando malware"},"content":{"rendered":"

Check Point Research ha detectado un crecimiento en el uso de esta herramienta de IA que se utiliza para depurar y mejorar c\u00f3digos maliciosos como Infostealer, as\u00ed como para crear ransomware o herramientas de phishing. Adem\u00e1s, en los foros de la Dark Web los ciberdelincuentes ya est\u00e1n compartiendo gu\u00edas y herramientas donde se muestra c\u00f3mo saltarse las restricciones y barreras de los desarrolladores de OpenAI<\/strong><\/p>\n

Check Point Research, la divisi\u00f3n de Inteligencia de Amenazas Check Point\u00ae Software Technologies Ltd., un proveedor l\u00edder especializado en ciberseguridad a nivel mundial, ha detectado que los ciberdelincuentes han incrementado el uso de los bots de Telegram con el objetivo de crear una nueva metodolog\u00eda que logre saltarse las restricciones de ChatGPT y otras herramientas basadas en OpenAI. Su principal objetivo es poder utilizar estas capacidades para la depuraci\u00f3n y mejora de los c\u00f3digos maliciosos.
\nConsciente de esta problem\u00e1tica, OpenAI ha actualizado su pol\u00edtica de contenidos, creando barreras y restricciones para tratar de detener la creaci\u00f3n de contenidos maliciosos. Se han establecido varias restricciones dentro de la interfaz de usuario de ChatGPT para evitar su uso inapropiado; por ejemplo, a partir de ahora la IA no generar\u00e1 respuestas para aquellas peticiones con alusiones concretas a la creaci\u00f3n de malware o correos electr\u00f3nicos de phishing que traten de hacerse pasar por un banco u otras entidades.
\nSin embargo, los ciberdelincuentes ya est\u00e1n trabajando para sortear las restricciones de ChatGPT. Seg\u00fan ha detectado Check Point Research, actualmente se ha generado mucha actividad en los foros clandestinos, en los que se habla sobre c\u00f3mo utilizar la API de OpenAI para saltarse las barreras y limitaciones de estas herramientas, destacando un modelo que se centra en la creaci\u00f3n y distribuci\u00f3n de bots de Telegram que emulan la API de ChatGPT.
\nConcretamente, se han detectado diversos anuncios y modelos de negocio que garantizan una herramienta maliciosa con la capacidad de realizar hasta 20 premisas de manera gratuita, ampliables por un coste reducido de tan s\u00f3lo 5,5 d\u00f3lares por cada 100 nuevas consultas. Un coste pr\u00e1cticamente nulo en comparaci\u00f3n con las altas ganancias que se obtienen de este tipo de ciberataques.
\nLos ciberdelincuentes siguen explorando c\u00f3mo utilizar ChatGPT para desarrollar malware y correos electr\u00f3nicos de phishing. A medida que mejoran los controles que implementa ChatGPT, encuentran nuevas formas de utilizar los modelos de OpenAI.
\n\u201cLa versi\u00f3n actual de la API de OpenAI, disponible para su uso en aplicaciones externas, tiene muy pocas medidas de control. Como resultado, permite crear contenido malicioso como correos electr\u00f3nicos de phishing y c\u00f3digo de malware sin las limitaciones o barreras que ChatGPT ha establecido en su interfaz de usuario\u201d comenta Eusebio Nieva, director t\u00e9cnico de Check Point Software para Espa\u00f1a y Portugal.<\/p>\n

Arriba, ejemplo de un email de phishing creado a trav\u00e9s de un bot de Telegram utilizando la API de OpenAI \/ Imagen cortes\u00eda de Check Point Software<\/em><\/span><\/p>\n

 <\/p>\n","protected":false},"excerpt":{"rendered":"

Check Point Research ha detectado un crecimiento en el uso de esta herramienta de IA que se utiliza para depurar y mejorar c\u00f3digos maliciosos como Infostealer, as\u00ed como para crear ransomware o herramientas de phishing. Adem\u00e1s, en los foros de la Dark Web los ciberdelincuentes ya est\u00e1n compartiendo gu\u00edas y herramientas donde se muestra c\u00f3mo … <\/p>\n

Continue reading \u00abLos cibercriminales se saltan las restricciones de ChatGPT para seguir creando malware\u00bb<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":10764,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[7,9],"tags":[],"_links":{"self":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts\/10763"}],"collection":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=10763"}],"version-history":[{"count":1,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts\/10763\/revisions"}],"predecessor-version":[{"id":10765,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts\/10763\/revisions\/10765"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/media\/10764"}],"wp:attachment":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=10763"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=10763"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=10763"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}