Washington, 26 Decembre 2023 (Lomé Actu)-Une nouvelle faille de sécurité a été repérée sur l’intelligence artificielle ChatGPT. Des chercheurs de l’université de l’Indiana ont pu se procurer assez aisément les adresses mail personnelles et professionnelles d’une trentaine de journalistes du quotidien américain du New York Times.
En utilisant ChatGPT 3.5 Turbo, l’une des dernières versions du modèle de langage, ils ont pu « outrepasser les restrictions du modèle en répondant à des requêtes liées aux informations personnelles des gens », a indiqué l’un des chercheurs au New York Times.
L’une des forces de ChatGPT est d’être entraîné sur une énorme quantité de données disponibles en ligne. C’est aussi un risque, puisqu’un grand nombre de données en ligne sont les données personnelles d’utilisateurs. Par ailleurs, l’origine de ces données est en grande partie opaque, faute de communication explicite d’OpenAI, l’entreprise à l’origine de ChatGPT.
Si ces données ne sont pas forcément disponibles pour le grand public, des failles de sécurité peuvent les dévoiler. Pour limiter l’accès à ces données, OpenAI a programmé son intelligence artificielle afin d’éviter qu’elle n’utilise tout ce qui peut être défini comme lié à des informations personnelles.
« Réglages fins »
Mais en utilisant un procédé précis, les chercheurs sont parvenus à rappeler à ChatGPT 3.5 les informations sensibles. En lui adressant des requêtes contenant quelques noms et adresses d’employés du New York Times, ils ont fait remonter des données similaires, dont les adresses mail d’une trentaine de journalistes. Sur la totalité des adresses proposées par ChatGPT, 80% d’entre elles étaient correctes, selon les journalistes qui ont été contactés par les chercheurs.
La technique utilisée par les chercheurs s’appelle le « réglage fin », précise le New York Times. Il permet d’affiner et donc d’optimiser les recherches faites sur un langage d’intelligence artificielle, mais aussi d’en exploiter les failles, comme dans ce cas précis.
