Trois lycéens américains ont posté sur TikTok de fausses vidéos du proviseur d’un collège voisin du nord de New York, dans lesquelles ce dernier semble proférer des menaces racistes.
Le proviseur d’un collège américain a été victime d’un deepfake raciste, explique Vice mercredi. Trois lycéens du Carmel High School, au nord de New York, se sont amusés à poster sur TikTok des vidéos dans lesquelles le proviseur du collège voisin George Fischer, John Piscitella, semble tenir des propos racistes.
On y voit notamment le réalisateur traiter les étudiants noirs de « singes » et dire qu’ils seraient renvoyés en Afrique. “J’espère que ces négros se feront tirer dessus parce qu’ils n’apprennent tout simplement pas”, semble affirmer le directeur dans la vidéo, avant de menacer de “venir à l’école avec [sa] mitraillette”.
C’était en fait un deepfake. Cette technologie, basée sur l’intelligence artificielle, permet de remplacer un visage par celui d’un autre dans une vidéo ou de falsifier les propos d’une personne avec un réalisme déconcertant. Les vidéos ont finalement été retirées et les autorités scolaires ont condamné le “racisme flagrant”.
Les parents dénoncent l’inaction de l’école
Mais l’histoire ne s’arrête pas là. Les parents d’élèves, qui n’avaient pas vu ces vidéos circuler et n’étaient pas au courant des menaces contre les élèves noirs, ont dénoncé l’inaction des autorités scolaires. Ils voient les images comme faisant partie d’un problème plus large de comportement raciste dans les écoles du district.
Les vidéos ont été signalées pour la première fois aux autorités scolaires le 12 février. Le 15 février, le district central de Carmel, qui supervise à la fois le lycée et le collège, a déclaré dans un communiqué “des vidéos inappropriées créées à l’aide de l’intelligence artificielle et se faisant passer pour des membres du ‘district administration’.
Le communiqué indique également que les étudiants qui ont posté les vidéos seraient “traités conformément au code de conduite du district”, sans donner plus de détails.
Malgré cela, les parents les accusent d’avoir sous-estimé la menace et d’avoir laissé le collège ouvert après cet incident, sans mesures de sécurité. Certains envisageraient même de porter plainte contre les autorités scolaires. L’avocat représentant les parents va jusqu’à parler de “menace terroriste contre l’école”.