GPT-4 apporte « tout au plus une légère amélioration » aux utilisateurs qui utiliseraient le modèle pour créer des armes biologiques, selon une étude menée par OpenAI.

Les experts craignent que les chatbots IA comme ChatGPT puissent aider les mécréants à créer et à libérer des agents pathogènes en fournissant des instructions étape par étape qui peuvent être suivies par des personnes ayant une expertise minimale. Lors d'une audition au Congrès en 2023, Dario Amodei, PDG d'Anthropic, a averti que les grands modèles de langage pourraient devenir suffisamment puissants pour que ce scénario devienne possible en quelques années seulement.

"Une simple extrapolation des systèmes actuels à ceux que nous prévoyons voir dans deux ou trois ans suggère un risque substantiel que les systèmes d'IA soient capables de combler toutes les pièces manquantes, si des garde-fous et des mesures d'atténuation appropriés ne sont pas mis en place", a-t-il déclaré. témoigné. « Cela pourrait considérablement élargir l’éventail des acteurs ayant la capacité technique de mener une attaque biologique à grande échelle. »

Alors, est-il facile d’utiliser ces modèles pour créer une arme biologique à l’heure actuelle ? Pas très, selon OpenAI cette semaine.

La startup a recruté 100 participants – la moitié étaient titulaires d’un doctorat dans un domaine lié à la biologie, les autres étaient des étudiants ayant suivi au moins un cours universitaire lié à la biologie. Ils ont été répartis au hasard en deux groupes : l’un avait uniquement accès à Internet, tandis que l’autre groupe pouvait également utiliser une version personnalisée de GPT-4 pour collecter des informations.

OpenAI a expliqué que les participants ont eu accès à une version personnalisée de GPT-4 sans les garde-fous de sécurité habituels. La version commerciale du modèle refuse généralement de se conformer aux invites sollicitant des conseils nuisibles ou dangereux.

Il leur a été demandé de trouver les bonnes informations pour créer une arme biologique, comment obtenir les bons produits chimiques et fabriquer le produit, ainsi que les meilleures stratégies pour la diffuser. Voici un exemple de tâche assignée aux participants :

OpenAI a comparé les résultats produits par les deux groupes, en accordant une attention particulière à la précision, à l'exhaustivité et à l'innovation des réponses. D’autres facteurs, tels que le temps qu’il leur a fallu pour accomplir la tâche et la difficulté de celle-ci, ont également été pris en compte.

Les résultats suggèrent que l’IA n’aidera probablement pas les scientifiques à changer de carrière pour devenir des super-vilains en matière d’armes biologiques.

«Nous avons constaté de légères améliorations en termes de précision et d'exhaustivité pour ceux qui ont accès au modèle linguistique. Plus précisément, sur une échelle de dix points mesurant l'exactitude des réponses, nous avons observé une augmentation moyenne du score de 0.88 pour les experts et de 0.25 pour les étudiants par rapport à la référence Internet uniquement, et une augmentation similaire pour l'exhaustivité », a révélé la recherche d'Open AI.

En d’autres termes, GPT-4 n’a pas généré d’informations fournissant aux participants des méthodes particulièrement pernicieuses ou astucieuses pour échapper aux garde-fous de contrôle de la synthèse d’ADN, par exemple. Les chercheurs ont conclu que les modèles semblent fournir seulement une aide accessoire pour trouver des informations pertinentes permettant de préparer une menace biologique.

Même si l'IA génère un guide décent pour la création et la diffusion de virus, il sera très difficile de réaliser toutes les différentes étapes. Obtenir les précurseurs chimiques et l’équipement nécessaires à la fabrication d’une arme biologique n’est pas facile. Son déploiement lors d’une attaque présente une multitude de défis.

OpenAI a admis que ses résultats montraient que l’IA augmentait légèrement la menace des armes biochimiques. "Bien que cette augmentation ne soit pas suffisamment importante pour être concluante, nos résultats constituent un point de départ pour la poursuite des recherches et des délibérations communautaires", conclut-il.

Le registre Je ne trouve aucune preuve que la recherche a été évaluée par des pairs. Nous devrons donc simplement croire qu’OpenAI a fait du bon travail. ®

• Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
• PlatoData.Network Ai générative verticale. Autonomisez-vous. Accéder ici.
• PlatoAiStream. Intelligence Web3. Connaissance Amplifiée. Accéder ici.
• PlatonESG. Carbone, Technologie propre, Énergie, Environnement, Solaire, La gestion des déchets. Accéder ici.
• PlatoHealth. Veille biotechnologique et essais cliniques. Accéder ici.
• La source: https://go.theregister.com/feed/www.theregister.com/2024/02/01/gpt4_openai_biochemical_weapon/