Los piratas informáticos se sienten frustrados cuando el contenido generado por IA inunda los foros de la Dark Web

El hampa digital está experimentando una frustración inesperada: los ciberdelincuentes están cada vez más irritados por la proliferación de contenido generado por IA que inunda sus foros privados y canales de comunicación. Lo que alguna vez fue un espacio exclusivo para discusiones ilegales serias sobre técnicas de piratería informática, desarrollo de malware y ataques cibernéticos coordinados se ha vuelto abarrotado de publicaciones de baja calidad generadas por máquinas que muchos actores de amenazas experimentados descartan como ruido en lugar de información valiosa.

Este fenómeno representa una curiosa intersección entre la tecnología de inteligencia artificial y las comunidades cibercriminales. A medida que las herramientas de inteligencia artificial se han vuelto más accesibles y fáciles de usar, actores maliciosos con distintos niveles de sofisticación han comenzado a implementar estas tecnologías de manera indiscriminada en foros clandestinos y mercados de la web oscura. La avalancha resultante de texto generado por IA (a menudo mal escrito, repetitivo y contextualmente irrelevante) ha creado fricciones significativas dentro de comunidades que antes eran más seleccionadas y exclusivas.

Los investigadores de seguridad y analistas de ciberseguridad que monitorean estos espacios subterráneos han documentado numerosas quejas de piratas informáticos establecidos frustrados por lo que coloquialmente llaman "mierda de IA". Estas quejas revelan una vulnerabilidad inesperada en las redes criminales: la misma democratización de la tecnología que permite a los novatos participar en actividades cibercriminales también permite el spam, el contenido de baja calidad y la interrupción de los canales de comunicación establecidos. Los administradores del foro y miembros respetados de la comunidad han comenzado a implementar políticas de moderación de contenido más estrictas para combatir la afluencia.

El problema surge en parte de la explosión de herramientas de IA generativa disponibles para el público en general. Servicios como ChatGPT, Bard y otros modelos de lenguaje se pueden adaptar rápidamente para fines maliciosos, incluida la generación automatizada de publicaciones, la creación de contenido para campañas de phishing y el spam en foros producido en masa. Los ciberdelincuentes que carecen de habilidades técnicas avanzadas han encontrado estas herramientas particularmente útiles para crear la apariencia de actividad y legitimidad en sus operaciones, incluso si la calidad del contenido generado es cuestionable.

Un aspecto particularmente notable de esta tendencia es cómo refleja los problemas experimentados en comunidades legítimas en línea décadas antes. Así como los foros, las plataformas de redes sociales y los foros de mensajes enfrentaron epidemias de spam en las décadas de 1990 y 2000, las comunidades criminales ahora enfrentan desafíos similares. La diferencia es que los autores de este spam suelen ser otros ciberdelincuentes que intentan publicitar sus servicios, promocionar sus variantes de malware o simplemente generar ruido para ocultar sus actividades reales.

El impacto en los foros de cibercriminales ha sido sustancial y multifacético. Los piratas informáticos experimentados informan que dedican mucho más tiempo a filtrar publicaciones irrelevantes para encontrar discusiones legítimas sobre nuevas vulnerabilidades, técnicas de explotación u oportunidades de colaboración. Esta degradación de la calidad del foro ha llevado a algunos miembros senior de la comunidad a migrar a espacios más exclusivos, solo por invitación, donde los requisitos de membresía y los procesos de verificación pueden mantener alejados a los participantes de menor calidad y a los robots de spam automatizados.

Los administradores de foros de estas comunidades han respondido con estrategias de moderación cada vez más agresivas. Algunos han implementado desafíos estilo captcha, requieren que los usuarios completen tareas técnicas para demostrar su experiencia o exigen pagos en criptomonedas para mantener cuentas activas. Estas medidas tienen un doble propósito: reducen el spam y las publicaciones que requieren poco esfuerzo y, al mismo tiempo, crean barreras financieras que desalientan a los participantes ocasionales o sin experiencia.

La situación también refleja tensiones más amplias dentro de los ecosistemas cibercriminales con respecto al profesionalismo y las habilidades. Los actores de amenazas establecidos que han invertido años en desarrollar capacidades sofisticadas de piratería a menudo ven a los recién llegados que confían en herramientas de inteligencia artificial y kits de exploits fácilmente disponibles como amenazas a la seguridad operativa y los estándares profesionales. A estos delincuentes veteranos les preocupa que una mayor participación de personas menos capacitadas aumente la probabilidad de infiltración de las fuerzas del orden y derribos coordinados.

Desde la perspectiva de la defensa de la ciberseguridad, esta disrupción interna presenta una paradoja interesante. Si bien la inundación de foros criminales con contenido generado por IA crea desafíos para las fuerzas del orden que monitorean estos espacios, al mismo tiempo indica que las herramientas de inteligencia artificial se están democratizando en todo el panorama de amenazas. Esto sugiere que los ciberataques futuros pueden volverse más numerosos y de calidad más variable, lo que requerirá que los defensores se preparen tanto para amenazas dirigidas sofisticadas como para ataques en volumen provenientes de actores menos capaces.

Los expertos de la industria también señalan que esta tendencia podría tener consecuencias no deseadas para las operaciones cibercriminales organizadas. Cuando los foros se vuelven poco confiables como canales de comunicación debido al spam y al contenido de baja calidad, los grupos criminales pueden buscar plataformas alternativas o desarrollar métodos de comunicación más privados y descentralizados. Esto podría hacer que ciertas operaciones delictivas sean más difíciles de detectar y, al mismo tiempo, fragmentar el intercambio colectivo de conocimientos que caracteriza a las grandes comunidades de foros.

El papel de la tecnología de inteligencia artificial a la hora de perturbar las comunidades criminales también plantea dudas sobre la eficacia de los enfoques actuales en materia de ciberseguridad. Si la inteligencia artificial puede dañar inadvertidamente la infraestructura de empresas criminales, ¿podría utilizarse deliberadamente como arma con fines defensivos? Algunas empresas de ciberseguridad están explorando esta posibilidad, investigando si la implementación controlada de desinformación o spam generado por IA podría perturbar redes criminales conocidas.

De cara al futuro, la relación entre la inteligencia artificial y el ciberdelito probablemente será cada vez más compleja. A medida que las herramientas de inteligencia artificial se vuelven más sofisticadas, los ciberdelincuentes pueden encontrar mejores usos para estas tecnologías al automatizar ataques, generar contenido de phishing más convincente y descubrir nuevas vulnerabilidades en los sistemas. Al mismo tiempo, el problema actual de la inundación de foros con spam sugiere que implementar más controles en torno al desarrollo y la implementación de la IA podría tener beneficios inesperados para la defensa de la ciberseguridad.

Las quejas que surgen de los foros de cibercriminales resaltan en última instancia una realidad importante: la disrupción tecnológica afecta a todas las comunidades, legales o no. Las mismas herramientas que empoderan a los creadores legítimos también permiten el spam y el abuso, y cuando esas herramientas están ampliamente disponibles, ni siquiera las comunidades exclusivas pueden aislarse completamente de sus efectos. Para los profesionales de ciberseguridad que monitorean estos espacios, la degradación de la calidad de los foros sirve como un recordatorio de que las empresas criminales enfrentan sus propios desafíos operativos, incluso cuando continúan representando amenazas significativas para organizaciones e individuos en todo el mundo.