Les deepfakes ils continuent de remplir la toile, même en servant à déshabiller des personnes habillées, ou à générer des visages de personnes qui n’existent pas. Le site https://thispersondoesnotexist.com/ s’est amélioré ces dernières années, offrant des visages de plus en plus réels. Maintenant, ils voient les dangers des images de villes et de campagnes qui peuvent être modifiées pour montrer des contenus qui ne sont pas vraiment là.
Deepfakes a frappé les cartes
Les géographes s’inquiètent de la prolifération de ce type de contenu. Par exemple, ils peuvent être utilisés pour créer des canulars liés aux incendies ou aux inondations, ou pour dire qu’un pays a un camp de concentration alors qu’en fait ce n’est pas le cas. le Armée des États-Unis Il a déjà mis en garde à ce sujet en 2019, où les logiciels militaires peuvent voir un pont au mauvais endroit, et cela peut affecter le développement d’une mission, car ils peuvent être piégés en n’ayant pas de pont à cet endroit.
Un groupe de chercheurs vient de publier un article dans lequel ils analysent ce problème, intitulé «Fausse géographie profonde? Quand les données géospatiales rencontrent l’intelligence artificielle«. Cette recherche est la première à appliquer le concept de deepfakes aux images satellites, et ils ont montré que cela pouvait être fait. Avec cela, ils veulent informer les citoyens de leurs éventuels problèmes.
Les chercheurs disent que les humains ont menti avec Plans, y compris les limites et les marges là où elles n’étaient pas, cachant des îles, mettant des villes qui n’existent pas ou des rues qui n’y sont pas vraiment. Cela a été utilisé pour identifier ceux qui ont copié des cartes, et bien que dans Google Maps, nous n’allions pas trouver des choses comme ça, dans des alternatives à Maps, nous pouvons trouver des falsifications de contenu si l’entreprise est contrôlée par le gouvernement, comme cela peut arriver en Chine.
Votre IA peut les détecter, mais elles s’amélioreront
L’IA est actuellement utilisée dans les cartes pour résoudre des problèmes géographiques ou identifier des caractéristiques, mais peu de gens semblent avoir réalisé les dangers encourus. Les chercheurs ont réussi à générer des sites à partir de zéro qui semblent réels, et quelqu’un qui ne regarde pas en détail peut penser qu’il s’agit de sites réels. Pour ce faire, ils ont utilisé le Génération de réseaux contradictoires, ou alors GANs, que d’autres systèmes utilisent comme le Web qui génère des visages de personnes qui n’existent pas.
Pour le former, ils ont utilisé images réelles prises par satellite d’endroits comme les villes. Le processus de formation n’a pas été facile, car certaines des images générées avaient des ombres étranges.
La faible résolution des photos satellites les aide à être simulées relativement facilement. Avec ce système de détection, ils pourraient également détecter les fausses images analyser des détails tels que la texture, le contraste ou la couleur. Le problème est que ces systèmes doivent être constamment mis à jour pour compenser les améliorations et innovations constantes apportées dans la génération de deepfakes.