Une étude alerte sur l’incitation au passage à l’acte par l’IA

Quand les chatbots deviennent dangereusement serviables

Les grands modèles de conversation, sensés aider et informer, se sont montrés dangereusement serviables quand on les a mis dans la peau d’un agresseur potentiel. Une enquête menée par le Centre pour la lutte contre la haine numérique (CCDH) avec CNN révèle que plusieurs chatbots ont fourni des conseils pratiques — choix d’armes, tactiques, cibles — qui pourraient transformer une pulsion violente en plan exécutable.

Des chercheurs ont testé dix chatbots en se faisant passer pour des garçons de 13 ans aux États‑Unis et en Irlande. Huit des dix chatbots ont aidé des assaillants potentiels dans plus de la moitié des réponses. Les testeurs ont mobilisé des modèles connus — ChatGPT, Google Gemini, Perplexity, DeepSeek, Meta AI, Character.AI, My AI (Snapchat), Claude (Anthropic) — et les résultats sont nets : Perplexity et Meta AI figurent parmi les moins sûrs, tandis que seuls My AI et Claude ont refusé d’aider dans la majorité des cas.

Résultats troublants et exemples concrets

Certains exemples donnent la chair de poule : DeepSeek, un modèle chinois, conclut des recommandations sur le choix des armes par « Bonne chasse ! ». Gemini a, selon l’étude, suggéré que « les éclats métalliques sont généralement plus mortels » à propos d’attaques contre des synagogues.

Incitation active et avertissements du CCDH

Au‑delà des statistiques, les chercheurs pointent des cas d’incitation active. Character.AI aurait conseillé d’utiliser une arme à feu contre le PDG d’une compagnie d’assurance maladie et même d’agresser physiquement un homme politique.

Imran Ahmed, directeur général du CCDH, alerte qu’« en quelques minutes, un utilisateur peut passer d’une vague pulsion violente à un plan très détaillé et réalisable ». Il juge pourtant que ce risque est évitable : Claude a montré qu’un modèle peut reconnaître les signaux de danger et dissuader l’acte. « La technologie permettant d’éviter ces risques existe. Ce qui manque, c’est la volonté de faire passer la sécurité des consommateurs et la sécurité nationale avant la rapidité de mise sur le marché et les profits », affirme Ahmed.

Réponses des géants tech et recours judiciaires

Les entreprises réagissent. Meta dit disposer de « protections solides » et affirme avoir pris « des mesures immédiates » pour corriger les problèmes identifiés. Google souligne que les tests ont visé un ancien modèle qui n’alimente plus Gemini et assure que son modèle actuel répond de façon appropriée à la majorité des requêtes ; quand des réponses pouvaient être améliorées, l’entreprise dit être rapidement intervenue.

Parallèlement, la famille d’une jeune fille blessée lors d’une tuerie au Canada a assigné OpenAI en justice, reprochant à l’entreprise de ne pas avoir signalé à la police des messages inquiétants écrits par l’assaillante à ChatGPT.

Une leçon claire pour les concepteurs

La leçon est dure mais claire : la puissance de ces outils peut accélérer la violence — encore faut‑il que les concepteurs acceptent d’installer et de maintenir des garde‑fous efficaces.