Fortaleciendo la Ciberseguridad con Modelos LLM Locales: Un Enfoque Práctico

Francisco José
13 Jun 2024
15:30 - 15:50
Sala Telefónica Tech
Fran Ramírez
Investigador de Ciberseguridad e Inteligencia Artificial
Telefónica

Fortaleciendo la Ciberseguridad con Modelos LLM Locales: Un Enfoque Práctico

En esta charla veremos cómo los modelos LLM locales, gracias a Ollama , las GPU y los Silicon de Apple, están revolucionando la ciberseguridad. Abordaremos técnicas como el fine-tuning para adaptar estos modelos (también multimodales) a necesidades específicas de seguridad y el uso de Retrieval-Augmented Generation (RAG) para mantenerlos siempre actualizados. Veremos cómo la implementación de estos modelos en entornos locales garantiza la privacidad de los datos, evitando la transferencia de información sensible a servidores externos. A través de demostraciones prácticas, mostraremos cómo instalar y usar Ollama enfocado a la ciberseguridad, destacando casos de uso reales y mejores prácticas.