{"id":355,"date":"2023-12-28T18:23:49","date_gmt":"2023-12-28T18:23:49","guid":{"rendered":"https:\/\/www.grupohst.com\/blog\/?p=355"},"modified":"2023-12-28T18:32:43","modified_gmt":"2023-12-28T18:32:43","slug":"el-cazador-cazado-los-ciberatacantes-desconfian-del-uso-de-la-ia","status":"publish","type":"post","link":"https:\/\/www.grupohst.com\/blog\/el-cazador-cazado-los-ciberatacantes-desconfian-del-uso-de-la-ia\/","title":{"rendered":"\u00abEl cazador cazado\u00bb: Los ciberatacantes desconf\u00edan del uso de la IA"},"content":{"rendered":"\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t

Sophos ha presentado dos informes sobre el papel de la inteligencia artificial (IA) en la ciberdelincuencia. En el primero, denominado \u00abEl lado oscuro de la IA: campa\u00f1as de estafa a gran escala posibles gracias a la Inteligencia Artificial generativa\u00bb, se destaca la posibilidad de que estafadores utilicen tecnolog\u00edas como ChatGPT para realizar fraudes a gran escala con conocimientos t\u00e9cnicos m\u00ednimos en el futuro.
<\/h2>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\n

Por otro lado, el segundo informe, titulado \u00abLos ciberdelincuentes no se ponen de acuerdo sobre los GPT\u00bb, revela que los atacantes muestran escepticismo y preocupaci\u00f3n respecto al uso de la Inteligencia Artificial como herramienta para sus ataques, a pesar del potencial de esta nueva tecnolog\u00eda. Y es que, aunque la IA actualmente les permite automatizar tareas sencillas, como la creaci\u00f3n de im\u00e1genes y textos basados en IA generativa para llevar a cabo t\u00e9cnicas de ingenier\u00eda social, su uso en la ciberdelincuencia est\u00e1 en sus fases iniciales.<\/p>\n

Christopher Budd, director de investigaci\u00f3n de X-Ops de Sophos, afirma que \u201caunque desde el lanzamiento de ChatGPT ha habido una gran preocupaci\u00f3n por el abuso de la IA y los LLM por parte de los ciberdelincuentes, nuestra investigaci\u00f3n ha descubierto que, hasta ahora, los cibercriminales son m\u00e1s esc\u00e9pticos que entusiastas\u201d.<\/p>\n

El lado oscuro de la IA<\/strong><\/h2>\n

Sophos X-Ops, mediante una sencilla plantilla de comercio electr\u00f3nico y tecnolog\u00edas LLM como GPT-4, ha desarrollado una p\u00e1gina web completamente funcional. Esta incluye im\u00e1genes, audio y descripciones de productos generados por inteligencia artificial, as\u00ed como un inicio de sesi\u00f3n falso en\u00a0Facebook\u00a0y una p\u00e1gina de pago fraudulenta dise\u00f1ada para capturar credenciales de inicio de sesi\u00f3n y datos de tarjetas de cr\u00e9dito de los usuarios. La creaci\u00f3n y operaci\u00f3n del sitio web requer\u00edan conocimientos t\u00e9cnicos m\u00ednimos, y utilizando la misma herramienta, los expertos de Sophos X-Ops pudieron generar cientos de portales web similares en minutos con un solo clic.<\/p>\n

Seg\u00fan Ben Gelman, cient\u00edfico de datos s\u00e9nior de Sophos, \u00abes natural, y esperable, que los delincuentes recurran a las nuevas tecnolog\u00edas para automatizarse. La creaci\u00f3n original de emails de spam fue un paso cr\u00edtico en la tecnolog\u00eda de estafa porque cambi\u00f3 la escala del campo de juego. Las nuevas IAs est\u00e1n preparadas para hacer lo mismo. Si existe una tecnolog\u00eda de Inteligencia Artificial<\/em>\u00a0que pueda crear amenazas completas y automatizadas, se acabar\u00e1n utilizando. Ya hemos visto la integraci\u00f3n de elementos de IA generativa en estafas cl\u00e1sicas, como textos o fotograf\u00edas generados por Inteligencia Artificial<\/em>\u00a0para atraer a las v\u00edctimas.<\/em><\/p>\n

Sin embargo, parte de la raz\u00f3n por la que realizamos esta investigaci\u00f3n fue adelantarnos a los delincuentes. Al crear un sistema de generaci\u00f3n de p\u00e1ginas web fraudulentas a gran escala, que es m\u00e1s avanzado que las herramientas que los delincuentes utilizan actualmente, tenemos una oportunidad \u00fanica para analizar y prepararnos para la amenaza antes de que prolifere\u00bb.<\/p>\n

IA generativa: los cibercriminales desconf\u00edan del uso de cuentas de ChatGPT falsas para sus propios ataques<\/strong><\/h3>\n

Los investigadores de Sophos X-Ops realizaron un an\u00e1lisis en cuatro de los principales foros de la dark web para evaluar la actitud de los atacantes hacia la inteligencia artificial. Aunque el uso de estas herramientas est\u00e1 en sus primeras etapas, los cibercriminales ya est\u00e1n discutiendo su potencial en ingenier\u00eda social, como se evidencia en estafas de criptomonedas basadas en el romance mediante aplicaciones de citas.<\/p>\n

La mayor\u00eda de los debates en los foros se centraban en la venta de cuentas falsas de\u00a0ChatGPT\u00a0y jailbreaks para usos maliciosos. Sophos X-Ops tambi\u00e9n identific\u00f3 diez derivados de ChatGPT que supuestamente podr\u00edan ser utilizados para lanzar ciberataques y desarrollar programas maliciosos. Sin embargo, hubo ciberdelincuentes que expresaron preocupaci\u00f3n por posibles estafas relacionadas con estas imitaciones de ChatGPT.<\/p>\n\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<\/div>\n\t\t","protected":false},"excerpt":{"rendered":"

Sophos ha presentado dos informes sobre el papel de la inteligencia artificial (IA) en la ciberdelincuencia. En el primero, denominado \u00abEl lado oscuro de la IA: campa\u00f1as de estafa a gran escala posibles gracias a la Inteligencia Artificial generativa\u00bb, se destaca la posibilidad de que estafadores utilicen tecnolog\u00edas como ChatGPT para realizar fraudes a gran … Leer m\u00e1s<\/a><\/p>\n","protected":false},"author":1,"featured_media":357,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[6],"tags":[],"_links":{"self":[{"href":"https:\/\/www.grupohst.com\/blog\/wp-json\/wp\/v2\/posts\/355"}],"collection":[{"href":"https:\/\/www.grupohst.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.grupohst.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.grupohst.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.grupohst.com\/blog\/wp-json\/wp\/v2\/comments?post=355"}],"version-history":[{"count":3,"href":"https:\/\/www.grupohst.com\/blog\/wp-json\/wp\/v2\/posts\/355\/revisions"}],"predecessor-version":[{"id":359,"href":"https:\/\/www.grupohst.com\/blog\/wp-json\/wp\/v2\/posts\/355\/revisions\/359"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.grupohst.com\/blog\/wp-json\/wp\/v2\/media\/357"}],"wp:attachment":[{"href":"https:\/\/www.grupohst.com\/blog\/wp-json\/wp\/v2\/media?parent=355"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.grupohst.com\/blog\/wp-json\/wp\/v2\/categories?post=355"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.grupohst.com\/blog\/wp-json\/wp\/v2\/tags?post=355"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}