Lors d’un test utilisant un modèle Gemini réalisé par la start-up israélienne Irregular en mai dernier, celui-ci s’est accidentellement connecté au réseau internet, alors qu’il aurait du se dérouler hors ligne. Le modèle IA de Google a réussi à se connecter sans autorisation dans les systèmes de trois entreprises en devinant les mots de passe, avant de détecter l’erreur et de s’arrêter. Google a reconnu l’incident 4 mois plus tard et a prévenu les 3 entreprises touchées par ce piratage involontaire. Cela était déjà arrivé à ChatGPT et Claude en juillet dernier.
Heather Adkins, vice-présidente en charge de l’ingénierie de sécurité chez Google a déclaré : « Lors d’une évaluation standard, le modèle a trouvé des informations publiques en ligne et deviné des identifiants pour accéder à des sites qu’il pensait faire partie du test. Dans les trois cas, le modèle s’est arrêté ».