La majorité du comité d’éthique d’Axon AI démissionne à trigger des drones Taser

Neuf membres du comité d’éthique de l’IA du fabricant d’armes non létales Axon ont démissionné lundi après que le PDG de la société a annoncé son intention de construire des drones équipés de tasers pour empêcher les fusillades dans les écoles à travers les États-Unis.

Lorsqu’un jeune de 18 ans a abattu dix-neuf élèves et deux enseignants tout en blessant plusieurs autres dans une école élémentaire d’Uvalde, au Texas, le fondateur et PDG d’Axon, Rick Smith, a commencé à réfléchir à la manière dont il pourrait aider à arrêter les fusillades à Uvalde, au Texas. Sa meilleure idée : déployer des drones équipés de taser dans les salles de classe et les lieux publics.

Axon développe des caméras corporelles et des armes non létales pour les forces de l’ordre. Smith pensait pouvoir combiner les deux fonctionnalités et les installer sur un drone qui, en théorie, pourrait immobiliser les tireurs d’élite. Smith a annoncé qu’Axon avait officiellement commencé à développer de tels systèmes la semaine dernière.

“La seule réponse viable à un tireur de masse est quelqu’un d’autre avec une arme à feu”, a déclaré Smith dans un communiqué. “Après ces événements, nous avons été coincés dans des débats infructueux. Nous avons besoin de solutions nouvelles et meilleures. Pour cette raison, nous avons choisi d’engager publiquement les communautés et les parties prenantes et de développer un système de drone non létal télécommandé qui, selon nous, sera plus efficace, option immédiate. , manière humaine et éthique de protéger les innocents ».

Mais tout le monde chez Axon n’a pas soutenu le point de vue de Smith. Le conseil d’éthique de l’IA de l’entreprise – un groupe composé d’experts juridiques et techniques de l’industrie et du milieu universitaire – voté contre développement de drones équipés de Taser et n’a pas approuvé l’annonce de Smith.

“Il y a quelques semaines à peine, une majorité de ce conseil – par 8 voix contre 4 – a recommandé qu’Axon ne procède pas à une étude pilote étroite visant à vérifier le concept de l’entreprise de drones équipés de Taser”, neuf membres, qui ont quitté le conseil, indiqué dans un communiqué. “Dans cette conception limitée, le drone équipé du Taser ne devrait être utilisé que dans des situations où il pourrait empêcher un policier d’utiliser une arme à feu, ce qui pourrait sauver une vie.”

“Nous avons compris que l’entreprise pouvait procéder malgré notre recommandation de ne pas le faire, et nous étions donc fermes sur les types de contrôles qui seraient nécessaires pour mener un projet pilote responsable si l’entreprise continuait. Nous commencions tout juste à produire un rapport public sur la proposition d’Axon et nos délibérations.”

Smith, cependant, a décidé de remplacer le comité d’éthique et de continuer à travailler sur ce qu’il croyait être une solution viable aux fusillades dans les écoles. Il a lancé une session de questions-réponses en direct sur Reddit, invitant les internautes à poser leurs questions sur l’idée d’Axon.

“Je sais que les drones scolaires peuvent sembler fous. Cela ne peut tout simplement pas être plus fou qu’une autre fusillade de masse dans une école. Évidemment, il y a des problèmes compliqués en jeu, mais le meilleur endroit pour commencer est d’entendre ce que les gens pensent et de répondre aux questions”, a-t-il déclaré. a dit.

Quelques jours plus tard, cependant, il a annoncé que le projet avait été abandonné. “Notre annonce visait à lancer une conversation à ce sujet en tant que solution potentielle, et elle a conduit à un débat public considérable qui nous a permis de mieux comprendre les considérations complexes et importantes liées à ce problème”, a déclaré Smith.

“Je reconnais que notre passion pour trouver de nouvelles solutions pour arrêter les fusillades de masse nous a poussés à agir rapidement pour partager nos idées. Cependant, à la lumière des retours, nous suspendons le travail sur ce projet et nous nous recentrons pour nous engager davantage avec des publics clés. explorer pleinement la meilleure voie à suivre.”

Bien que Smith ait déclaré qu’il cesserait de travailler sur l’idée, la plupart des membres de son comité d’éthique de l’IA ont quand même démissionné, citant des années d’efforts pour empêcher “l’utilisation par Axon de la surveillance persistante en temps réel dans ses produits”. La technologie “nuira aux communautés de couleur et à d’autres qui sont trop surveillées, et probablement bien au-delà”, ont-ils déclaré, et “n’a aucune chance réaliste de résoudre le problème des tirs de masse”.

Axon a refusé de commenter au-delà de la dernière déclaration de Smith.

“Un drone taser non létal télécommandé dans les écoles est une idée, pas un produit, et encore loin”, a réitéré Smith. “Nous avons beaucoup de travail et d’exploration pour voir si cette technologie est viable et pour comprendre si les préoccupations du public peuvent être traitées de manière adéquate avant d’aller de l’avant. Poursuivre une voie de recherche étendue n’est qu’un élément pour bien faire les choses.” ®

Leave a Comment