Apprentissage profond génératif pour la génération de mots de passe : une analyse comparative

2.1 Craquage traditionnel de mots de passe

Historiquement, le craquage de mots de passe reposait sur l'analyse statistique des fuites (par exemple, en utilisant les règles de John the Ripper, les masques Hashcat, ou les grammaires hors contexte probabilistes, pionnières de Weir et al.). Ces méthodes nécessitent des connaissances expertes pour élaborer des règles de transformation et des dictionnaires. Elles sont efficaces mais limitées par la créativité du concepteur des règles et peinent à généraliser à des schémas nouveaux et non vus.

2.2 Apprentissage profond en génération de texte

Les récentes avancées en TALN, portées par des modèles comme GPT, BERT et les Transformers, ont démontré la capacité des réseaux de neurones profonds à modéliser des distributions linguistiques complexes. Les technologies clés facilitatrices incluent :

• Mécanismes d'attention : Permettent aux modèles de pondérer l'importance des différentes parties d'une séquence d'entrée (par exemple, les caractères précédents dans un mot de passe), capturant les dépendances à long terme cruciales pour la structure.
• Apprentissage de représentation : Les auto-encodeurs et architectures similaires apprennent des représentations compressées et significatives (espaces latents) des données, facilitant la génération et la manipulation.
• Entraînement avancé : Des techniques comme l'inférence variationnelle et l'entraînement antagoniste stabilisent l'apprentissage de modèles génératifs complexes.

3.1 Réseaux de neurones à base d'attention

Des modèles comme les Transformers ou les RNN augmentés d'attention sont utilisés pour capturer les relations contextuelles entre les caractères d'un mot de passe. Pour une séquence de caractères $x_1, x_2, ..., x_T$, l'attention calcule un vecteur de contexte $c_i$ pour chaque étape $i$ comme une somme pondérée de tous les états cachés : $c_i = \sum_{j=1}^{T} \alpha_{ij} h_j$, où $\alpha_{ij}$ est un poids d'attention. Cela permet au modèle d'apprendre, par exemple, qu'un chiffre suit souvent un certain motif de lettres.

3.2 Mécanismes d'auto-encodage

Les auto-encodeurs standards apprennent un encodeur $E(x)$ qui mappe un mot de passe $x$ vers un code latent $z$, et un décodeur $D(z)$ qui reconstruit $\hat{x}$. Le modèle est entraîné à minimiser la perte de reconstruction $\mathcal{L}_{rec} = ||x - D(E(x))||^2$. Bien qu'utiles pour la représentation, les auto-encodeurs standards ne fournissent pas un espace latent structuré pour une génération fluide.

3.3 Réseaux antagonistes génératifs (GAN)

Les GAN opposent un générateur $G$ à un discriminateur $D$. $G$ prend un bruit aléatoire $z$ et essaie de générer des mots de passe réalistes $G(z)$, tandis que $D$ essaie de distinguer les vrais mots de passe des faux. Ils sont entraînés via un jeu minimax : $\min_G \max_D V(D, G) = \mathbb{E}_{x\sim p_{data}}[\log D(x)] + \mathbb{E}_{z\sim p_z}[\log(1 - D(G(z)))]$. L'entraînement des GAN sur du texte discret est notoirement difficile, nécessitant souvent des techniques comme Gumbel-Softmax ou l'apprentissage par renforcement.

3.4 Auto-encodeurs variationnels (VAE)

Cet article présente de nouvelles architectures VAE pour la génération de mots de passe. Un VAE impose une structure probabiliste à l'espace latent. L'encodeur produit les paramètres (moyenne $\mu$ et variance $\sigma^2$) d'une distribution gaussienne : $q_\phi(z|x) = \mathcal{N}(z; \mu_\phi(x), \sigma^\phi(x))$. Un code latent est échantillonné : $z = \mu + \sigma \odot \epsilon$, où $\epsilon \sim \mathcal{N}(0, I)$. Le décodeur reconstruit ensuite le mot de passe à partir de $z$. La fonction de perte est la borne inférieure de l'évidence (ELBO) :

$\mathcal{L}_{VAE} = \mathbb{E}_{q_\phi(z|x)}[\log p_\theta(x|z)] - \beta \cdot D_{KL}(q_\phi(z|x) || p(z))$

Où $p(z) = \mathcal{N}(0, I)$ est l'a priori. Le premier terme est la perte de reconstruction, le second est la divergence de Kullback-Leibler régularisant l'espace latent. Le paramètre $\beta$ contrôle le compromis. Cet espace latent structuré permet des fonctionnalités puissantes comme l'interpolation entre mots de passe et l'échantillonnage ciblé.

4.1 Jeux de données : RockYou, LinkedIn, Youku, Zomato, Pwnd

Les expériences sont menées sur cinq jeux de données de fuites de mots de passe réels et bien connus pour assurer la robustesse et la généralisabilité. Ces jeux de données varient en taille, source (réseaux sociaux, jeux, réseaux professionnels) et origine culturelle, fournissant un banc d'essai diversifié pour la performance des modèles.

4.2 Métriques d'évaluation

• Taux de correspondance@N : Le pourcentage de mots de passe dans un ensemble de test réservé qui sont trouvés (crackés) parmi les N premiers candidats générés. La métrique principale pour l'efficacité du craquage.
• Unicité : Le pourcentage de mots de passe générés qui sont uniques (non dupliqués). Une haute unicité indique que le modèle ne mémorise pas simplement l'ensemble d'entraînement.
• Entropie/Perplexité : Mesure l'incertitude du modèle et la diversité de la distribution générée.

5.1 Comparaison des performances

Les modèles VAE proposés atteignent un Taux de correspondance de pointe ou très compétitif sur tous les jeux de données, particulièrement dans les premiers rangs (par exemple, Taux de correspondance@10M). Ils surpassent ou égalent systématiquement les GAN traditionnels et les auto-encodeurs plus simples. Les modèles à base d'attention montrent également de fortes performances, notamment pour capturer des dépendances complexes entre caractères.

5.2 Variabilité et unicité de la génération

Les VAE et les GAN ont tendance à générer une proportion plus élevée de mots de passe uniques par rapport aux modèles plus simples, indiquant une meilleure généralisation. Cependant, les GAN souffrent parfois d'"effondrement de mode", où ils génèrent une variété limitée de mots de passe, un problème atténué dans le cadre VAE par l'a priori latent structuré.

5.3 Exploration de l'espace latent (VAE)

Un avantage clé des VAE est leur espace latent continu et structuré. L'article démontre :

• Interpolation : Parcourir de manière fluide entre deux points latents $z_1$ (pour le mot de passe "sunshine1") et $z_2$ (pour "password123") produit des mots de passe intermédiaires sémantiquement plausibles (par exemple, "sunshine12", "sunword123").
• Échantillonnage ciblé : En conditionnant l'espace latent ou en y effectuant une recherche, on peut générer des mots de passe avec des propriétés spécifiques (par exemple, contenant "2023", commençant par "Admin").

Cela fait passer la génération de mots de passe d'un craquage aveugle à un processus plus contrôlé et exploratoire.