La espada de doble filo de los modelos de lenguaje grandes: riesgos potenciales y estrategias de respuesta

El rápido desarrollo de la tecnología de inteligencia artificial está cambiando profundamente nuestra forma de vida. Desde la serie GPT hasta Gemini, pasando por varios modelos de código abierto, la IA avanzada está remodelando nuestro trabajo y vida. Sin embargo, junto con los avances tecnológicos también surgen nuevos desafíos, especialmente la aparición de modelos de lenguaje de gran tamaño sin restricciones o malintencionados.

Los LLM sin restricciones se refieren a aquellos modelos de lenguaje que han sido deliberadamente diseñados, modificados o "jailbreakeados" para eludir los mecanismos de seguridad y las restricciones éticas incorporadas en los modelos convencionales. Los desarrolladores de LLM convencionales suelen invertir muchos recursos para evitar que sus modelos se utilicen para generar discursos de odio, información falsa, código malicioso o para proporcionar instrucciones para actividades ilegales. Sin embargo, en los últimos años, algunas personas u organizaciones, con fines ilícitos, han comenzado a buscar o desarrollar modelos sin restricciones por su cuenta.

Amenazas potenciales de LLM sin restricciones

La aparición de este tipo de modelos ha reducido drásticamente la barrera de entrada para ciertas actividades ilegales. Tareas que antes requerían habilidades profesionales, como escribir código malicioso, crear correos electrónicos de phishing o planear fraudes, ahora pueden ser realizadas fácilmente por personas comunes sin experiencia en programación, gracias a los LLM sin restricciones. Los atacantes solo necesitan obtener los pesos y el código fuente de un modelo de código abierto, y luego ajustar el modelo utilizando conjuntos de datos que contengan contenido malicioso, discursos de odio o instrucciones ilegales, para crear herramientas de ataque personalizadas.

Este modelo conlleva múltiples riesgos:

1. Los atacantes pueden "modificar" modelos específicos para generar contenido más engañoso, eludiendo la revisión de contenido y las restricciones de seguridad de los LLM convencionales.
2. El modelo se puede utilizar para generar rápidamente variantes de código de sitios web de phishing o para personalizar textos de estafa para diferentes plataformas sociales.
3. La disponibilidad y la modificabilidad de los modelos de código abierto han fomentado la formación y propagación del ecosistema de IA subterránea, proporcionando un caldo de cultivo para el comercio y desarrollo ilegales.

LLM ilimitado típico y sus amenazas potenciales

versión negra de GPT

Este es un LLM malicioso que se vende públicamente en un foro subterráneo, con desarrolladores que afirman claramente que no tiene ninguna restricción ética. Se basa en un modelo de código abierto y se entrena con una gran cantidad de datos relacionados con malware. Los usuarios solo necesitan pagar un mínimo de 189 dólares para obtener un mes de acceso. Su uso más infame es generar correos electrónicos de ataque de phishing y correos electrónicos de intrusión comercial que son altamente realistas y persuasivos.

En el ámbito de las criptomonedas, podría ser utilizado para:

• Generar correos electrónicos/mensajes de phishing, imitando a los intercambios o proyectos para enviar solicitudes de "verificación de cuenta" a los usuarios
• Asistir en la redacción de código malicioso para robar archivos de billetera, monitorear el portapapeles, registrar teclas, entre otras funciones.
• Impulsar fraudes automatizados, responder automáticamente a posibles víctimas, guiarlas para que participen en airdrops falsos o proyectos de inversión.

Experto en contenido de la dark web

Este es un modelo de lenguaje desarrollado por investigadores, específicamente preentrenado en datos de la dark web, con la intención de proporcionar apoyo a la investigación en ciberseguridad y a las fuerzas del orden. Sin embargo, si fuera adquirido por actores maliciosos o si se utilizara tecnología similar para entrenar un modelo de gran tamaño sin restricciones, las consecuencias serían inimaginables.

En el ámbito de las criptomonedas, los posibles abusos incluyen:

• Recopilar información de los usuarios y del equipo del proyecto para fraudes de ingeniería social
• Recrear estrategias maduras de robo y lavado de dinero en la dark web

Asistente de fraude en línea

Este es un modelo avanzado que se vende en la dark web y en foros de hackers, con una tarifa mensual que varía de 200 dólares a 1,700 dólares.

En el ámbito de las criptomonedas, podría ser utilizado para:

• Generar un libro blanco, un sitio web, una hoja de ruta y una copia de marketing que parezcan reales, para llevar a cabo una ICO/IDO falsa.
• Crea rápidamente una página de inicio de sesión o interfaz de conexión de billetera que imite a los intercambios de criptomonedas conocidos.
• Fabricación masiva de comentarios y propaganda falsos, impulsando tokens fraudulentos o desacreditando proyectos competidores
• Imitar el diálogo humano, establecer confianza con usuarios desprevenidos, persuadiéndolos para que revelen información sensible o realicen acciones perjudiciales

asistente de IA sin restricciones morales

Este es un chatbot de IA que se ha definido claramente como sin restricciones morales.

En el ámbito de las criptomonedas, podría ser utilizado para:

• Generar correos electrónicos de phishing altamente realistas, suplantando a intercambios de criptomonedas importantes para enviar solicitudes falsas de verificación KYC, etc.
• Generar rápidamente contratos inteligentes que contengan puertas traseras ocultas o lógica fraudulenta, para estafas de Rug Pull o atacar protocolos DeFi
• Generar malware con capacidad de transformación continua para robar archivos de billetera, claves privadas y frases de recuperación.
• Combinar guiones generados por IA y desplegar bots en plataformas sociales para inducir a los usuarios a participar en proyectos falsos.
• Colaborar con otras herramientas de IA para generar voces de fundadores de proyectos falsos o ejecutivos de exchanges, llevando a cabo fraudes telefónicos.

Plataforma de acceso sin censura

Este tipo de plataformas ofrecen acceso a múltiples LLM, incluidos algunos modelos con menos censura o restricciones más laxas. Aunque están diseñadas para proporcionar a los usuarios oportunidades de exploración abierta, también pueden ser aprovechadas por elementos delictivos.

Los riesgos potenciales incluyen:

• Los atacantes pueden utilizar modelos con menos restricciones para generar plantillas de phishing, propaganda falsa o enfoques de ataque.
• Reducir la barrera de entrada para la ingeniería de prompts, facilitando a los atacantes obtener salidas que originalmente estaban restringidas.
• Acelerar la iteración de discursos de ataque, probar rápidamente la reacción de diferentes modelos a instrucciones maliciosas

Estrategias de respuesta

La aparición de LLM sin restricciones marca un nuevo paradigma de ataques más complejos, a gran escala y con capacidades de automatización en la ciberseguridad. Este tipo de modelos no solo reduce la barrera de entrada para los ataques, sino que también introduce nuevas amenazas más encubiertas y engañosas.

Para enfrentar estos desafíos, todas las partes del ecosistema de seguridad necesitan trabajar juntas.

1. Aumentar la inversión en tecnología de detección, desarrollar herramientas que puedan identificar y bloquear contenido de phishing generado por LLM maliciosos, explotaciones de vulnerabilidades de contratos inteligentes y código malicioso.

2. Impulsar la construcción de la capacidad de prevención de jailbreak del modelo y explorar mecanismos de marcas de agua y trazabilidad, para poder rastrear el origen de contenido malicioso en escenarios clave como las finanzas y la generación de código.

3. Establecer y mejorar normas éticas y mecanismos de supervisión para limitar desde la raíz el desarrollo y abuso de modelos maliciosos.

4. Fortalecer la educación del usuario para aumentar la capacidad de identificación y la conciencia de seguridad del público sobre el contenido generado por IA.

5. Fomentar la colaboración entre el mundo académico y la industria para continuar investigando tecnologías de seguridad en IA, como el entrenamiento adversarial y el fortalecimiento de la robustez del modelo.

6. Impulsar la cooperación internacional, establecer conjuntamente estándares de seguridad de IA y mejores prácticas, y coordinar la aplicación de la ley transfronteriza para combatir el crimen de IA.

Solo a través de la cooperación de todas las partes se puede disfrutar de los beneficios de la tecnología de IA al mismo tiempo que se gestionan eficazmente sus riesgos potenciales, construyendo un futuro digital más seguro y más confiable.