Los expertos advierten de que ChatGPT podría democratizar la ciberdelincuencia

  • Seguridad Inteligente

cm qnap oct

Expertos en seguridad han advertido de que un nuevo bot de inteligencia artificial muy popular podría ser utilizado por ciberdelincuentes en potencia para enseñarles a elaborar ataques e incluso escribir ransomware.

La empresa de I+D en inteligencia artificial OpenAI lanzó el mes pasado ChatGPT, que ya ha superado el millón de usuarios.

El prototipo de chatbot responde con aparente autoridad a preguntas en lenguaje natural, rastreando grandes volúmenes de datos en Internet. Incluso puede ser creativo, por ejemplo, escribiendo poesía.

Sin embargo, expertos en seguridad advierten de que su indudable talento podría utilizarse para reducir la barrera de entrada de los ciberdelincuentes en ciernes.

De hecho, estas fuentes han sido capaces de utilizar el bot para crear una campaña de phishing creíble para la Copa del Mundo e incluso escribir un ransomware para macOS. Aunque el bot advirtió que el phishing podía utilizarse con fines maliciosos, siguió adelante y produjo el script.

Además, aunque ChatGPT está programado para no escribir ransomware directamente, se pudo conseguir lo que quería.

"Describí las tácticas, técnicas y procedimientos del ransomware sin describirlo como tal. Es como una impresora 3D que no 'imprime una pistola', pero que imprime el cañón, el cargador, la empuñadura y el gatillo si se lo pides", explican estos expertos.

"Le dije a la IA que quería escribir un programa en Swift, que quería que encontrara todos los archivos de Microsoft Office de mi MacBook y los enviara a través de HTTPS a mi servidor web. También quería que cifrara todos los archivos de Microsoft Office de mi MacBook y me enviara la clave privada para descifrarlos. Me envió el código de muestra, y esta vez no había ningún mensaje de advertencia, a pesar de ser potencialmente más peligroso que el correo electrónico de phishing".

El bot también escribió un "eficaz código de evasión de virtualización/sandbox", que podría utilizarse para ayudar a los hackers a evadir las herramientas de detección y respuesta, así como una regla de detección SIGMA.

Descubre la innovación

Para asegurar el éxito empresarial, ahora y a futuro, es imprescindible maximizar el retorno de la inversión existente en software, a la vez que innovar y adoptar nuevas tecnologías. Los retos que hay abordar para competir en un mundo de IT Híbrida incluyen diferentes vías de actuación: la gestión de aplicaciones, la gestión de las operaciones de IT (ITSM), la modernización de aplicaciones y la ciberseguridad inteligente. Puedes obtener más información sobre cómo abortar estos retos e innovar haciendo clic en cada una de las líneas de acción o visitando el sitio web de Micro Focus en este enlace.