Charla de Chema Alonso

Introducción

• Chema Alonso se presentó, aclarando que trabaja en tecnología e innovación en Telefónica, no en ciberseguridad.
• Mencionó su pasión por la tecnología desde joven, inspirada por la película Tron.

Comienzos en la Informática

• Empezó a programar desde muy joven.
• En la universidad disfrutaba más de programar y bases de datos, no de la seguridad informática.
• Irónicamente, es reconocido por su trabajo en seguridad informática, aunque nunca fue su enfoque principal.

Interés por la Innovación

• Su pasión siempre fue la innovación y lo nuevo, especialmente en el ámbito de la inteligencia artificial (IA).

Evolución de la IA

• IA ha sido aplicada al hacking y ciberseguridad por años.
• Desarrollo de IA impulsado por tecnologías como cloud computing y big data.
• Machine Learning y técnicas de venta dirigida son ejemplos de su aplicación.

Generative AI y el Valle Inquietante

• Aceleración reciente de la inteligencia artificial generativa, capaz de crear textos, imágenes, videos.
• Problemas: IA genera resultados correctos sin entender el proceso detrás, preocupante para los especialistas.
• Estudios en paridad humana han intentado superar capacidades cognitivas humanas en áreas específicas.
• Creación de bases de datos para reconocer celebrities, y avances en reconocimiento de voz y comprensión lectora.

Problemas Éticos y de Seguridad

• IA generativa puede replicar estilos de escritura (ej. Pérez-Reverte) o crear textos automáticamente.
• El uso ético y posibles abusos de estas capacidades generan preocupaciones entre autores y creadores.

Limitaciones y Peligros de la IA

• IA moderna puede tener sesgos y alucinaciones (inventar datos incorrectos).
• Desfavorece géneros y clases específicas; aún con fallos, responde correctamente la mayoría del tiempo.
• Ejemplos de fallos incluyen SQL Injection en código generado por IA y respuestas ficticias sobre personas.

Hacks y Inyecciones de Prompts

• Utilización de tácticas psicológicas para engañar a modelos de IA y obtener respuestas prohibidas.
• Ejemplo: convenciendo a IA de jugar rol para discutir temas peligrosos.
• Casos de estudios que muestran cómo hackers pueden explotar IA para obtener respuestas peligrosas.

Uso Militar y Responsabilidad

• Modelos de IA son usados en sistemas militares, creando desafíos éticos importantes.
• Declaraciones políticas de EEUU y Europa sobre el uso responsable de IA en armas militantes autónomas.

Empleo de IA en Creación de Personas

• Confrontación entre IA creadoras de imágenes permite la generación de rostros humanos realistas.
• Avances en IA gráfica han permitido crear humanos digitales casi indistinguibles de personas reales.
• Modelos de difusión utilizados para crear imágenes más rápidamente a partir de bases de datos pre-existentes.

Problemas de Seguridad en Identidades Falsas

• Técnicas de reconocimiento incluyen artefactos, histogramas, parpadeos y trackeo del gaze.
• Estrategias para detectar deepfakes a través de patrones de parpadeo y estructura ósea.

Clonados de Voz y Uso Malicioso

• Clonación de voz puede brincar factores de autenticación tradicionales.
• Ejemplos donde clonación de voz fue usada para fraudes financieros importantes.

Impacto en el E-commerce y la Vida Digital

• Técnicas avanzadas de Deepfake y humanos sintéticos están presentes en sistemas de e-commerce y marketing digital.
• Necesidad de innovar en detección y autenticación para prevenir fraudes y suplantaciones.

Futuro de la IA y Robótica

• Avances impresionantes en robótica gracias a IA, ejemplo de Atlas de Boston Dynamics.
• Predicción de la integración masiva de robots sociales en la vida cotidiana.

Reflexión Final

• La charla destacó tanto los avances positivos de la IA y robótica como los posibles riesgos éticos y de seguridad.
• Invitó a la audiencia a mantenerse atenta y crítica respecto a estos avances.