Débuter en reverse engineering

Notions fondamentales

Le reverse engineering consiste à repartir d'un produit fini — un exécutable, un firmware, un circuit — pour reconstruire sa logique et son fonctionnement. Avant d'ouvrir le moindre outil, quelques repères s'imposent.

Analyse statique vs dynamique

Deux approches complémentaires, que l'on combine presque toujours au cours d'une même étude.

Un minimum d'assembleur

Un désassembleur traduit le code machine en assembleur : c'est la langue dans laquelle vous lirez la plupart des programmes. Pas besoin d'être expert pour démarrer, mais quelques fondamentaux sont incontournables.

Formats de binaires : PE & ELF

Un exécutable n'est pas qu'un bloc de code : c'est un fichier structuré qui indique au système comment le charger en mémoire. Reconnaître son format et sa structure oriente toute l'analyse.

Premiers réflexes en ligne de commande

Avant tout désassembleur, quelques commandes livrent déjà beaucoup d'informations sur un fichier inconnu.

Outillage logiciel

Le cœur du reverse logiciel repose sur deux familles d'outils : les désassembleurs/décompilateurs pour l'analyse statique, et les débogueurs pour l'analyse dynamique. Voici la panoplie de référence pour débuter.

Désassembleurs & décompilateurs

Débogueurs & instrumentation dynamique

Lancer ses outils

Votre premier crackme

Un crackme est un petit programme conçu pour l'entraînement : il attend un mot de passe ou une clé, et votre mission est de comprendre sa logique de vérification. C'est le terrain de jeu idéal — et parfaitement légal — pour débuter.

1. 1. Reconnaissance

   Exécutez le programme, observez son comportement, puis passez file et strings dessus pour repérer messages et indices.

2. 2. Repérer la vérification

   Cherchez la comparaison décisive : une chaîne « Bravo / Mauvaise clé », un strcmp ou un cmp suivi d'un saut conditionnel.

3. 3. Lire le désassemblage

   Dans Ghidra ou radare2, remontez de la comparaison vers le calcul qui produit la clé attendue.

4. 4. Confirmer au débogueur

   Posez un point d'arrêt sur la comparaison et inspectez les registres pour lire la valeur attendue en clair.

5. 5. Comprendre l'algorithme

   L'objectif n'est pas seulement de « passer » mais de reconstituer la logique : transformation du serial, boucle de contrôle, condition de succès.

Chaîne d'analyse d'un binaire

Au-delà du crackme, une étude structurée suit toujours une progression logique. Cette chaîne d'analyse vous servira de méthode réutilisable, quel que soit le binaire.

1. 1. Triage

   file, entropie, format (PE/ELF), architecture, présence d'un packer ou de chiffrement.

2. 2. Collecte statique légère

   Chaînes de caractères, imports/exports, symboles restants, ressources embarquées.

3. 3. Cartographie

   Chargement dans le désassembleur, identification du point d'entrée, des fonctions et du graphe d'appels.

4. 4. Analyse ciblée

   On se concentre sur les fonctions d'intérêt : authentification, cryptographie, parsing d'entrées.

5. 5. Validation dynamique

   Débogueur ou Frida pour confirmer les hypothèses et observer les valeurs réelles.

6. 6. Synthèse

   Reconstitution de la logique, prise de notes, renommage des fonctions et documentation reproductible.

Reverse engineering hardware

Le reverse matériel prolonge la démarche logicielle : on part d'un appareil physique pour en comprendre l'électronique, puis extraire et analyser son firmware. La progression reste la même — observer, cartographier, puis creuser.

Choisir un premier appareil

Privilégiez une cible simple à démonter, aux composants faciles à identifier et souvent documentée.

Démonter avec précaution

• Documentez chaque étape — une photo à chaque vis retirée.
• Organisez les composants — des bacs séparés pour les vis et les pièces.
• Repérez les composants clés : processeur principal (CPU/MCU), mémoire flash (stockage du firmware), RAM, connecteurs de debug.

Identifier & rechercher les composants

Étape cruciale pour comprendre l'architecture de la cible.

• Relevez les références — tous les numéros de modèle visibles sur les puces.
• Recherchez les datasheets — par exemple ATmega328 datasheet PDF ou ESP32 pinout datasheet.
• Identifiez l'architecture — ARM, MIPS, x86, AVR, etc.
• Trouvez les spécifications — fréquence, mémoire, interfaces disponibles.

Extraire & analyser le firmware

Deux grandes voies permettent de récupérer le firmware : dialoguer avec une interface de programmation, ou lire directement la puce de stockage.

Se connecter & extraire

Analyser le firmware extrait

Une fois le firmware récupéré, chargez-le dans un désassembleur — Ghidra, IDA ou rizin — puis suivez la chaîne d'analyse vue plus haut :

1. Chargez le firmware en précisant l'architecture identifiée.
2. Recherchez les strings — chaînes lisibles, chemins, indices.
3. Identifiez les fonctions d'intérêt — authentification, cryptographie.
4. Trouvez les points d'entrée — main(), reset vector, interruptions.
5. Décompilez progressivement les fonctions importantes.

Pour aller plus loin côté signaux, un analyseur logique (Saleae Logic, DSLogic, ou l'ensemble gratuit PulseView + sigrok) capture et décode les bus SPI, I2C ou UART en temps réel — voir analyser les bus de données.

Chercher les vulnérabilités

Comprendre un binaire ou un firmware ouvre naturellement sur l'identification de faiblesses. Voici les points d'intérêt récurrents.

Tester ses hypothèses

Modifier un firmware (ou patcher un binaire) permet de valider une faille de façon contrôlée : injection de payload de test, désactivation d'une vérification, modification d'un comportement, extraction de données. Après reflash via la même interface que pour l'extraction, on redémarre et on observe (logs UART, comportement, nouveaux vecteurs).

Documenter sa démarche

Une documentation soignée est ce qui distingue une découverte reproductible d'un coup de chance. Notez au fil de l'eau.

Ressources d'entraînement

Le reverse engineering s'apprend par la pratique régulière. Ces plateformes proposent des défis légaux, progressifs et corrigés pour affûter votre méthode.