Stéphane FOSSE

Oracle et la surveillance par IA


2025 - - Copyleft : cette œuvre est libre, vous pouvez la copier, la diffuser et la modifier selon les termes de la Licence Art Libre 1.3
[PDF]

Les récentes déclarations de Larry Ellison, co-fondateur d'Oracle, sur l'utilisation de l'IA pour la surveillance de masse soulèvent des inquiétudes concernant la protection de la vie privée. Entre promesses de sécurité accrue et risques pour les libertés individuelles, cette vision futuriste rappelle étrangement les scénarios de films de science-fiction.

Une vision digne d'un film de science-fiction

Dans un discours qui aurait pu être tiré d'un scénario dystopique, Larry Ellison a récemment dévoilé sa vision d'un avenir où l'intelligence artificielle surveillerait en masse. Lors de la réunion des analystes financiers d'Oracle en septembre 2024, le président et directeur technique a détaillé un système de surveillance omniprésent qui ferait pâlir les créateurs de « Minority Report » ou d'« Ennemi d'État ».

Sa vision technique comprend des caméras corporelles policières redessinées coûtant 70 dollars contre 7 000 dollars pour les systèmes traditionnels, qui seraient « toujours allumées » et connectées en permanence aux centres de données Oracle. Même pendant les pauses toilettes, les caméras continueraient d'enregistrer. Cette architecture s'étendrait aux drones autonomes remplaçant les poursuites automobiles et aux systèmes de sécurité scolaire utilisant l'IA pour reconnaître immédiatement les intrus.

Il envisage un monde où chaque citoyen et chaque agent de police seraient constamment surveillés par des systèmes d'IA, dans le but de les maintenir sur leur « meilleur comportement ». Contrairement aux mises en garde souvent présentées dans les films, il dépeint ces systèmes de surveillance comme une avancée positive. Il affirme que cette technologie pourrait prévenir les abus de pouvoir et sauver des vies.

Des technologies déjà opérationnelles

L'ambition d'Oracle ne relève pas de la science-fiction : l'entreprise possède déjà une infrastructure substantielle pour la surveillance par IA à travers Oracle Cloud Infrastructure (OCI). Le service OCI Vision offre des capacités de détection faciale pouvant traiter jusqu'à 250 visages par image, avec reconnaissance d'objets, analyse vidéo image par image, et traitement en temps réel.

Les déploiements concrets incluent des systèmes de gestion vidéo couvrant « des milliers de kilomètres » avec caméras de surveillance, utilisant des instances de machines virtuelles avec 15 cœurs, 240 Go de RAM et 24 Go de mémoire GPU. Ces systèmes offrent la recherche d'apparence, la reconnaissance faciale, le contrôle de caméras, et les notifications d'alerte.

Oracle Public Safety Suite a été déployée dans plusieurs agences en Californie, Colorado, Minnesota et Texas. Dans le comté d'Archuleta, Colorado, ce système fournit une « vue complète en temps réel de l'emplacement des officiers » et comprend la répartition des commandes, les dossiers d'application de la loi, la gestion des prisons et les dispositifs portés sur le corps.

L'infrastructure haute performance d'Oracle inclut des instances GPU NVIDIA dernière génération avec un « OCI Supercluster » évolutif jusqu'à 131 072 GPU. Cette puissance de calcul massive supporte une latence ultra-faible permettant l'entraînement et l'inférence d'IA à grande échelle nécessaires pour la surveillance en temps réel.

Un positionnement stratégique ambitieux

Lors du Sommet mondial des gouvernements à Dubaï en février 2025, Larry Ellison a poussé plus loin sa vision en prônant que les gouvernements « unifient toutes les données nationales, les placent dans une base de données facilement consommable par le modèle d'IA », incluant explicitement les informations génomiques des citoyens. Cette centralisation massive alimenterait des systèmes d'IA gouvernementaux pour la gestion de la santé publique et au-delà.

Oracle a établi des relations profondes avec les agences gouvernementales américaines. L'entreprise a obtenu l'autorisation pour traiter des données classifiées au niveau Secret en 2024 et participe au contrat Joint Warfighting Cloud Capability de 9 milliards de dollars du Département de la Défense. Elle détient également le contrat Commercial Cloud Enterprise multimilliardaire de la communauté du renseignement.

Au niveau fédéral, Oracle bénéficie de l'accord GSA OneGov offrant 75% de réduction sur la technologie Oracle aux agences fédérales, et a récemment décroché un contrat de 222,53 millions de dollars avec l'armée américaine. L'entreprise revendique servir plus de 1 000 organisations du secteur public et 100% des agences du cabinet fédéral.

Réactions contrastées et inquiétudes

Les déclarations d'Ellison ont provoqué une réaction négative généralisée dans la communauté technologique. The Register a décrit la vision d'Ellison comme « Oracle mise tout sur la surveillance de masse par IA », tandis que TechCrunch a souligné les préoccupations concernant les données policières biaisées alimentant les modèles d'IA.

Les experts soulignent des défis techniques significatifs. L'étude NIST de 2019 sur 189 algorithmes de reconnaissance faciale a révélé que la majorité présentent des différences démographiques dans les taux de faux positifs et négatifs. La recherche de Joy Buolamwini du MIT montre des taux d'erreur de 0,8% pour les hommes à peau claire contre 34,7% pour les femmes à peau foncée.

L'Electronic Frontier Foundation, sans commenter spécifiquement les déclarations d'Ellison, a averti que « consolider des données à une telle échelle pourrait augmenter les risques de surveillance de masse et de dépassement gouvernemental ». Les chercheurs académiques identifient des « aspects éthiquement controversés de la surveillance par intelligence artificielle ».

Entre progrès et surveillance généralisée

Oracle navigue dans un paysage réglementaire complexe. En juillet 2024, l'entreprise a réglé un procès collectif pour 115 millions de dollars concernant la « surveillance délibérante et intentionnelle de la population générale ». Ce règlement a forcé Oracle à cesser ses opérations de mécanisme de suivi et à s'engager à sortir du secteur de la technologie publicitaire.

L'avis du Comité européen de la protection des données de décembre 2024 établit des exigences strictes pour les modèles d'IA traitant des données personnelles sous le RGPD. L'AI Act de l'Union européenne, entré en vigueur en août 2024, interdit généralement l'identification biométrique à distance en temps réel dans les espaces publics. Aux États-Unis, 15 États ont adopté des lois limitant l'utilisation policière de la reconnaissance faciale.

Les déclarations de Larry Ellison soulèvent des questions fondamentales sur l'avenir de notre société et la protection de la vie privée. Sommes-nous prêts à sacrifier notre intimité au nom de la sécurité et de l'efficacité ? Les systèmes d'IA peuvent-ils réellement nous maintenir sur notre « meilleur comportement » sans compromettre nos libertés fondamentales ?

L'ambition d'Oracle s'étend à l'utilisation de l'IA pour analyser des images satellites de fermes, prédire les rendements des cultures et suggérer des améliorations. Bien que moins controversée, cette application soulève également des questions sur la protection de la vie privée des agriculteurs et la sécurité des données potentiellement sensibles.

Alors que nous naviguons dans ces eaux troubles, il demeure essentiel de garder à l'esprit les avertissements que la science-fiction nous a transmis. La frontière entre utopie technologique et dystopie surveillée peut être terriblement mince, et la protection de la vie privée doit rester au cœur de ces débats. Les investissements massifs d'Oracle dans l'infrastructure indiquent une préparation pour des opérations de surveillance à grande échelle, mais le succès ultime nécessitera de naviguer dans un paysage complexe de considérations techniques, éthiques, juridiques et sociétales.

Références