Drones, surveillance IA, écoutes jusque dans les toilettes... Aux Etats-Unis, les lycées se placent sous haute surveillance grâce à l’IA, des outils coûteux et intrusifs dont l’efficacité est toujours à démontrer

Face à la multiplication des fusillades aux Etats-Unis, de nombreux établissements déploient des technologies de surveillance dopées à l'IA. Reconnaissance faciale, détection d’armes, analyse comportementale... Si ces outils prétendent sauver des vies, leur efficacité et leur impact sur les libertés individuelles font débat.

Espionner les élèves pour mieux les protéger. C'est le nouvel adage des lycées américains. Comme le rapporte Forbes, ces dernières années, les écoles américaines ont renforcé la surveillance de leurs établissements et déployé des trésors de technologie. L'objectif? Protéger les élèves contre la vague de fusillades.

Entre 2000 et 2022, 131 personnes ont été tuées et 197 blessées dans des écoles américaines, selon Everytown for Gun Safety. Des chiffres alarmants qui poussent les lycées à investir une partie de leur budget dans des outils de surveillance de pointe, basés sur l'intelligence artificielle. C'est ce qu'a fait le district de Beverly Hills (Los Angeles). Au cours de l'exercice 2024-2025, il a consacré 4,8 millions de dollars à la sécurité.

États-Unis : une fusillade dans une université – 13/12

9:29

"Nous sommes constamment des cibles"

"Nous sommes au cœur de Los Angeles. Nous sommes donc constamment des cibles, ce qui signifie que nos élèves et notre personnel sont des cibles", observe Alex Chernis, surintendant du district.

Dès l'entrée d'un lycée du district, le ton est donné. Des caméras de surveillance dotée de la reconnaissance faciale comparent les visages des passants à une base de données. Une IA examine les images à la recherche de signes de comportements violents tandis que des lecteurs de plaques d'immatriculation vérifient les véhicules du parking. Des drones sont même prêts à être déployés.

Et la sécurité ne s'arrête pas à l'extérieur des établissements. Les salles de classe sont également équipées de caméras. Halo, un dispositif discret commercialisé par Motorola, a été mis en place dans les toilettes. Il enregistre les sons et capte les bruits de détresse. Et ces efforts paient. Le système de surveillance détecte plusieurs menaces par jour, assure le lycée.

Culture IA : Withings met une IA... dans vos toilettes - 11/11

4:15

Et cet établissement est loin d'être une exception. Evolv, une solution de détection d'armes utilisée par les établissement californiens, est également déployée dans plus de 800 établissements scolaires aux États-Unis. Elle assure identifier 500 armes à feu par jour.

Des systèmes qui font débat

Dans le Tennessee, l'université de Chattanooga a déployé VoltAI sur le réseau de caméras de l'établissement. Cette technologie, facturée 365 dollars par flux vidéo et par an, prétend détecter les armes ou encore le harcèlement.

Le lycée régional de Rancocas Valley (New Jersey) s'est de son côté équipé de 50 caméras utilisant l'IA de détection d'armes à feu de ZeroEyes. "Les résultats sont incontestables: des vies sont sauvées", note Christopher Heilig, directeur du lycée. ZeroEyes affirme que sa technologie a détecté plus de 1.000 armes à feu depuis 2023.

Pourtant, ces systèmes font débat. Les outils sont loin d'être efficaces, malgré les accréditations du Département de la Sécurité intérieure (DHS). Selon un rapport de 2023 de l'Union américaine pour les libertés civiles (ACLU), huit des dix fusillades scolaires les plus meurtrières aux États-Unis depuis Columbine ont eu lieu dans des établissements équipés de systèmes de surveillance. Par exemple, en 2022, le système Evolv n'a pas réussi a détecté un couteau de 18 cm utilisé pour poignarder un élève.

Absence d'alerte... et fausses alertes

A l'inverse, les fausses alertes sont nombreuses. Les dispositifs d'analyse comportementale par IA, qui prétendent détecter les signes d'agression ou d'autres comportements inquiétants, sont inefficaces et biaisés. Plusieurs études antérieures ont montré que ces systèmes ont tendance à attribuer plus fréquemment des états émotionnels négatifs aux personnes racisées.

De leur côté, les systèmes de détection d'armes confondent des objets anodins avec des armes. Evolv a ainsi identifié à tort des ordinateurs portables et des bouteilles d'eau, comme des armes. En 2023, un lycée a été confiné à cause d'une fausse alerte de l'IA de Zeroeyes, créant la panique chez les élèves.

Omnilert, un concurrent dans le domaine de la détection d'armes, a signalé comme potentiellement menaçant un lycéen de 16 ans du comté de Baltimore (Maryland), qui cherchait un sachet de Doritos dans sa poche. L'adolescent a déclaré avoir été mis en joue par la police et ne plus se sentir en sécurité dans l'enceinte de son établissement. L'entreprise évoque un "malentendu" entre le personnel de sécurité et le proviseur qui. était à l'origine de l'intervention policière.

Eroder la confiance

Pourtant, le cas de cet adolescent n'est pas isolé. Selon l'ACLU, les systèmes nuisent à la confiance des élèves. Un tiers des élèves de 14 à 18 ans ont déclaré avoir le sentiment d’être constamment surveillés, souligne l'étude de l'ACLU. Plusieurs sondés ont également déclaré hésiter davantage à signaler aux enseignants leurs problèmes de santé mentale et les violences physiques qu’ils subissent.

D'autant que les principaux concernés ne sont pas toujours consultés. Elèves, enseignants ou parents sont souvent mis face au fait acompli, sans aucun respect pour leur vie privée. A Beverly Hills, enseignants et élèves n'ont pas été informés du déploiement du système de reconnaissance faciale de Vaidio, lors d'une cérémonie de remise des diplômes. Pourtant, les images des participants ont été enregistrées dans une base de données biométrique.

Le syndicat des enseignants de Beverly Hills a également déposé une plainte cet automne concernant l'installation de caméras par le district dans des espaces tels que la bibliothèque et la salle de sport.

Quid de la vie privée?

Sean O'Connor, directeur de la sécurité du district scolaire de Beverly Hills assure "ne pas partager" les données analysées et "flouter les visages des personnes non impliquées dans l'incident" en cas de demande des autorités. VoltAI et ZeroEyes affirment toutes deux que leurs technologies ne détectent pas les identités, mais seulement les objets et les comportements.

Dernier risque, et pas des moindres: le harcèlement. En effet, certaines technologies peuvent être détournées à des fins malveillantes. C'est par exemple le cas d'images enregistrées dans les toilettes. Halo affirme ne stocker aucune information enregistrée dans ces lieux. Un adolescent de Portland a pourtant réussi a hacker le système pour tout enregistrer. La faille a depuis été corrigée par Motorola.

Autant d'arguments qui poussent certains établissements à résilier leur abonnement. C'est le cas du district de Highline (Washington). Un contrat annuel de 33.000 dollars avec ZeroEyes a été résilié deux mois avant le terme. L'argent a été mieux investi... en achetant des défibrillateurs et des SUV Ford pour l'équipe de sécurité.