Hace casi un año, Microsoft anunció con gran expectación Recall, una función revolucionaria para los nuevos ordenadores Copilot+ PC que prometía cambiar la forma en la que interactuamos con nuestros dispositivos. Esta herramienta, diseñada para hacer capturas de pantalla cada pocos segundos, convertir el texto mediante OCR y crear una base de datos con todo lo que el usuario ve en su ordenador, fue duramente criticada por expertos en ciberseguridad como Kevin Beaumont, quien advirtió de sus graves fallos de seguridad inicialmente.
Tras la avalancha de críticas, Microsoft decidió aplazar el lanzamiento de Recall para volverle a dar una vuelta. Ahora, cuando la función está a punto de regresar a los equipos Copilot+ PC, Beaumont ha vuelto a analizar la herramienta para comprobar si realmente se han resuelto sus polémicos problemas de seguridad.
Índice de Contenidos (10)
- Una herramienta que se ha labrado muchos enemigos
- Recall viene con mejoras de seguridad
- Aunque aún no son suficientes
- Autenticación biométrica engañosa
- Filtrado inconsistente de datos sensibles
- Inestabilidad y comportamiento errático
- Implicaciones sobre la privacidad
- También es una tortura para el rendimiento del PC
- Personas que deberían evitar Recall
- Recall debería ser una herramienta para casos concretos
Una herramienta que se ha labrado muchos enemigos
La presentación inicial de Recall generó un auténtico terremoto en la industria tecnológica. Según explica Beaumont, la característica se había desarrollado en equipos internos dentro de Microsoft, sin la adecuada supervisión de los equipos de seguridad y privacidad, y sin haberse sometido a pruebas públicas con los miembros del programa para insiders.
Imagen: Microsoft
La reacción en redes sociales fue bastante negativa, con mensajes y vídeos dedicados sobre el peligro de su uso. Nosotros ya desde Genbeta advertíamos de sus problemas de seguridad, que no eran pocos precisamente.
Beaumont compara este desastre comunicativo con el lanzamiento de Xbox One en el E3, donde los ejecutivos de Microsoft parecían completamente desconectados de lo que realmente querían los consumidores. El experto señala que Recall se ha convertido en un pararrayos que canaliza los temores de la gente sobre la inteligencia artificial.
Recall viene con mejoras de seguridad
Tras casi un año de desarrollo extra, Beaumont destaca todos los cambios que Microsoft ha realizado respecto a la seguridad de Recall:
- Una función opcional: Durante la configuración inicial, el sistema pregunta claramente al usuario si desea activar Recall, sin utilizar trucos para forzar una elección. Las opciones «Sí» y «No» están presentadas de manera equitativa, sin resaltar una sobre otra.
- Base de datos encriptada: Microsoft ha invertido considerables recursos en desarrollar un sistema de cifrado robusto. La base de datos SQLite ahora está encriptada y las claves de seguridad se almacenan en un enclave especial (VBS), con un sistema aislado que ejecuta las operaciones de base de datos.
- Filtrado de datos sensibles: Recall ahora intenta identificar y filtrar información confidencial como números de tarjetas de crédito y otros datos personales, evitando su indexación.
- Autenticación reforzada: Se requiere el uso de Windows Hello para la configuración inicial, añadiendo una capa adicional de seguridad.
Aunque aún no son suficientes
Imagen: Kevin Beaumont
A pesar de las mejoras, Beaumont ha identificado importantes vulnerabilidades que siguen comprometiendo la seguridad y privacidad de los usuarios:
Autenticación biométrica engañosa
La documentación de Microsoft afirma que «se debe tener al menos una opción de inicio de sesión biométrica habilitada para Windows Hello, ya sea reconocimiento facial o huella dactilar, para iniciar y utilizar Recall». Sin embargo, Beaumont descubrió que esto solo se aplica en la configuración inicial.
Una vez configurada, Beaumont asegura que cualquier persona que conozca el PIN de cuatro dígitos del usuario puede acceder a todo el historial de capturas sin ninguna verificación biométrica adicional. Para demostrarlo, el experto pidió a su pareja (sin conocimientos técnicos) que intentara acceder a sus conversaciones privadas de Signal del día anterior utilizando Recall. Ella lo consiguió en apenas cinco minutos utilizando el PIN con el que se había quedado previamente cuando Beaumont lo usó para sacar dinero en un cajero automático.
Tal y como recalca el experto, esta vulnerabilidad permite que cualquier persona con acceso momentáneo al ordenador y conocimiento del PIN pueda explorar todo el historial de actividad del usuario, incluyendo mensajes eliminados, contraseñas tecleadas y cualquier otro contenido sensible.
Filtrado inconsistente de datos sensibles
Imagen: Kevin Beaumont
El sistema de filtrado de información confidencial tampoco funciona de manera fiable según Beaumont. Durante sus pruebas, el experto documentó cómo Recall capturó e indexó números de tarjeta de crédito y códigos CVV a pesar de tener activada la función de filtrado. En una ocasión, mientras actualizaba los datos de su tarjeta en la interfaz de la cuenta de Microsoft, Recall registró tanto los números inválidos como los válidos, incluyendo el código de seguridad.
El experto recomienda pausar Recall antes de realizar compras online para asegurarse de que no registra información sensible, y reactivarla después.
Inestabilidad y comportamiento errático
Durante las pruebas, Beaumont concluyó que Recall puede ser también bastante inestable. En ocasiones, el experto afirma que la herramienta simplemente deja de grabar sin razón aparente. También detectó errores en la función de filtrado de aplicaciones: al intentar excluir Signal, el sistema filtraba incorrectamente su navegador Vivaldi también.
Para Beaumont, estos problemas sugieren que la herramienta aún no está completamente pulida para su lanzamiento masivo.
Implicaciones sobre la privacidad
El experto plantea además serias cuestiones sobre el riesgo de nuestra privacidad al utilizar la herramienta:
- Persistencia de datos eliminados: La herramienta captura y almacena contenido incluso después de que haya sido eliminado. Los mensajes que se borran de Signal y WhatsApp, así como los mensajes borrados de Teams, siguen siendo accesibles a través de Recall.
- Videoconferencias y chats: Registra todas las aplicaciones de videoconferencia como Teams o Webex, incluyendo el vídeo y los mensajes de chat. Si los subtítulos en vivo están habilitados, también captura e indexa el texto de lo que se dijo verbalmente durante la llamada.
- Sesiones remotas: Almacena e indexa sesiones de escritorio remoto como Azure Virtual Desktop, Windows App y AnyDesk, lo que podría comprometer entornos corporativos.
Imagen: Kevin Beaumont
- Reconocimiento visual avanzado: Recall clasifica y etiqueta automáticamente todo lo que aparece en pantalla. Beaumont demostró cómo el sistema pudo identificar un «gato sobre libros» en una imagen sin que ese texto apareciera en ninguna parte. También indexó todos los nombres de libros y autores, incluyendo texto manuscrito y texto orientado verticalmente.
- Mensajes privados y fotografías: El sistema capturó e indexó por nombre a una persona en una foto enviada mediante un mensaje privado de autodestrucción. Esto significa que incluso contenido diseñado para no dejar rastro queda permanentemente archivado.
También es una tortura para el rendimiento del PC
Imagen: Kevin Beaumont
Aunque Recall generalmente opera en segundo plano, Beaumont observó que puede consumir recursos de forma significativa. Frecuentemente detectó que la NPU (Unidad de Procesamiento Neural) llegaba al 80% durante largos períodos, lo que también afecta negativamente a la duración de la batería.
Durante sus sesiones de juego, Recall continuaba capturando e indexando el contenido, permitiendo buscar posteriormente elementos específicos como logos de juegos, animales o NPCs. Esto provocaba caídas notables en el rendimiento. Además, según Beaumont, la interfaz de usuario de Recall también consume mucha memoria. Simplemente al navegar por la interfaz, ya se chupaba 1,2 GB de la RAM de su equipo.
Personas que deberían evitar Recall
Beaumont recomienda expresamente que ciertos colectivos mantengan Recall desactivado:
- Personas en situaciones de violencia doméstica o control por parte de su pareja
- Periodistas y sus fuentes confidenciales
- Grupos minoritarios en riesgo
- Personas políticamente expuestas
- Empresas que no hayan evaluado minuciosamente las implicaciones de privacidad
- Viajeros que crucen fronteras hacia países hostiles a las libertades civiles
Recall debería ser una herramienta para casos concretos
Aunque reconoce el esfuerzo significativo de Microsoft por mejorar la seguridad de Recall durante el último año, calificando la diferencia como «del día a la noche», Beaumont considera que aún existen importantes problemas por resolver.
El experto cree que la perspectiva de Microsoft con Recall es errónea. En su opinión, ni los gamers ni un usuario promedio querrían activar esta función. Además, Beaumont señala que, para las empresas, Recall supone enormes riesgos relacionados con la protección de datos personales y el descubrimiento legal, abriendo una nueva clase de vulnerabilidades.
Beaumont sugiere que Microsoft debería reorientar el enfoque de Recall, presentándola como una excelente herramienta de accesibilidad para personas con deterioro cognitivo leve, en lugar de intentar convertirla en una característica estrella para todos los usuarios.
Imagen de portada | Microsoft
En Genbeta | Hubo una época en la que Windows te decía cómo de bueno era tu PC. Adorábamos comparar nuestro ordenador con otros
En 3DJuegosPC | Esta es la historia de Windows, desde 1985 hasta W11. Cómo el sistema operativo de Microsoft ha evolucionado con los años
–
La noticia
Microsoft retiró su IA estrella de Windows 11 por ser insegura. Su mayor crítico prueba la nueva versión y tiene mucho que decir
fue publicada originalmente en
Genbeta
por
Antonio Vallejo
.
