Le scénario d'utilisation de l'intelligence artificielle pour créer des armes biologiques est l'un des risques les plus sérieux et les plus discutés. Contrairement à la menace nucléaire, où il faut des capacités industrielles colossales, les armes biologiques nécessitent avant tout des informations et l'accès aux laboratoires. L'IA peut radicalement réduire ce seuil.

Principal danger : réduction du seuil d'entrée

La principale menace n'est pas que l'IA veuille tuer quelqu'un, mais qu'elle puisse rendre la création d'armes biologiques accessible à un petit groupe de personnes ou même à des individus. Si auparavant cela nécessitait des années d'entraînement et l'accès à des matériaux complexes, l'IA peut maintenant assumer une grande partie du travail intellectuel.

En 2026, la société Antropic a publié un rapport dans lequel elle décrit cinq cas réels où des chercheurs de différents pays ont utilisé leur modèle pour des activités biologiques potentiellement dangereuses. En particulier, un utilisateur avait l'intention d'utiliser l'IA pour rechercher des mutations du virus du chikungunya qui augmentent sa capacité à se propager et à échapper aux immunités. Un autre chercheur travaillait sur l'adaptation du grippe aviaire hautement pathogène aux mammifères, ce qui pourrait renforcer son potentiel pandémique.

Lorsque le modèle refusait de répondre à des demandes dangereuses, les utilisateurs trouvaient des chemins de contournement. Dans un cas, les demandes étaient redirigées vers d'autres modèles avec des paramètres moins stricts, et l'accès au système était réalisé via des plateformes tierces pour contourner les restrictions géographiques.

Comment cela pourrait se produire : chaîne d'événements

Techiquement, le scénario de catastrophe pourrait se présenter ainsi.

1. Genération du design. Une IA formée sur de vastes ensembles de données biologiques conçoit le génome d'un nouveau pathogène. Déjà, il existe des expériences où l'IA a créé des virus fonctionnels à partir de zéro, ce qui prouve la possibilité de générer des séquences génétiques viables.
2. Optimisation des propriétés. Le modèle peut suggérer quelles mutations doivent être apportées pour rendre le virus plus contagieux ou résistant aux vaccins et médicaments existants.
3. Synthèse et assemblage. Le design est transmis au laboratoire pour la synthèse de l'ADN. C'est l'étape physique la plus complexe, nécessitant du matériel et des matériaux, mais l'IA peut aider à la planification de la logistique et même à la dissimulation des commandes de synthèse de séquences dangereuses.
4. Propagation. Le pathogène prêt est pulvérisé ou libéré de quelque autre manière dans la population cible.

Pourquoi cela est difficile mais pas impossible

De sérieuses obstacles se dressent sur la voie de la mise en œuvre de ce scénario.

Limits physiques : l'IA ne peut pas créer un virus dans un tube à essai par elle-même. Pour cela, il faut des laboratoires réels, du matériel et des matériaux. Les experts notent que pour créer un virus dangereux pour l'homme et non pour les bactéries, il faut des efforts énormes, du temps et de l'argent.

Imprévisibilité de la biologie : les systèmes biologiques sont chaotiques. Le pathogène conçu peut muter, perdre sa létalité ou, pire encore, revenir à son créateur. C'est précisément à cause de cette imprévisibilité que la plupart des pays ont renoncé aux programmes biologiques offensifs.

Mécanismes de protection : les entreprises développant l'IA ont déjà mis en œuvre des filtres bloquant les demandes dangereuses. Cependant, comme le montre le rapport, ces filtres peuvent être contournés et ne sont pas toujours efficaces contre des criminels déterminés.

Que peut-on opposer

Les experts sont d'accord pour dire que des mesures de protection multi-niveaux sont nécessaires. Des approches suivantes sont déjà discutées.

• Screening obligatoire du séquençage génomique. Les entreprises vendant de l'ADN synthétique doivent vérifier si les clients commandent des séquences dangereuses.
• Réglementation internationale. La Convention sur les armes biologiques est obsolète et ne prend pas en compte les défis de l'IA. Des nouveaux traités sont nécessaires, couvrant à la fois les modèles d'IA et les matériaux biologiques.
• Alerte précoce. Création de systèmes de détection rapide des épidémies de nouvelles maladies, ce qui pourrait servir de frein.

Ainsi, l'IA ne crée pas elle-même des armes biologiques, mais elle est un accélérateur et un conseiller puissant pour ceux qui ont des intentions correspondantes et l'accès aux laboratoires. Le risque réside dans le fait que le seuil d'entrée dans ce domaine devienne alarmantement bas.

Permanent link to this publication: