Le Dr Orridge n’a pas répondu aux demandes de commentaires pour cet article. Une porte-parole du Broward College a déclaré qu’elle ne pouvait pas discuter de l’affaire en raison des lois sur la confidentialité des étudiants. Dans un e-mail, elle a déclaré que les professeurs « exercent leur meilleur jugement » sur ce qu’ils voient dans les rapports Honorlock. Elle a déclaré qu’un premier avertissement pour malhonnêteté apparaîtrait sur le dossier d’un étudiant mais n’aurait pas de conséquences plus graves, telles que l’empêchement de l’étudiant d’obtenir son diplôme ou le transfert de crédits vers un autre établissement.
Qui décide
Honorlock n’a pas encore révélé exactement comment fonctionne son intelligence artificielle, mais une porte-parole de l’entreprise a révélé que l’entreprise fonctionne détection facial en utilisant Rekognition, un outil d’analyse d’images qu’Amazon a commencé à vendre en 2016. Le logiciel Rekognition recherche des repères faciaux – nez, yeux, sourcils, bouche – et renvoie un score de confiance indiquant que ce qui est à l’écran est un visage. Ça peut aussi déduire la état émotionnel, genre et angle du visage.
Honorlock signalera un candidat comme suspect s’il détecte plusieurs visages dans la pièce, ou si le visage du candidat disparaît, ce qui peut arriver lorsque les gens se couvrent le visage avec leurs mains de frustration, a déclaré Brandon Smith, président et chef de l’exploitation d’Honorlock.
Honorlock utilise parfois des employés humains pour surveiller les candidats aux tests ; Des « surveillants en direct » apparaîtront par chat s’il y a un grand nombre de drapeaux lors d’un examen pour savoir ce qui se passe. Récemment, ces surveillants ont découvert que Rekognition enregistrait par erreur des visages sur des photos ou des affiches en tant que personnes supplémentaires dans la pièce.
Quand quelque chose comme ça se produit, Honorlock le dit aux ingénieurs d’Amazon. « Ils prennent nos données réelles et les utilisent pour améliorer leur IA », a déclaré M. Smith.
La reconnaissance était censée être un pas en avant par rapport à ce qu’Honorlock avait utilisé. Un ancien outil de détection de visage de Google était moins performant pour détecter les visages de personnes ayant une gamme de tons de peau, a déclaré M. Smith.
Mais Rekognition a également été accusé de partialité. Dans une série d’études, Joy Buolamwini, chercheuse en informatique et directrice exécutive de l’Algorithmic Justice League, a découvert que les logiciels de classification des genres, y compris Reconnaissancea moins bien fonctionné sur les femmes à la peau plus foncée.
