Google a utilisé l'IA pour suspendre plus de 39 millions de comptes publicitaires soupçonnés de fraude
Google a utilisé l'IA pour suspendre plus de 39 millions de comptes publicitaires soupçonnés de fraude, en s'appuyant sur des LLM et en utilisant des signaux tels que l'usurpation d'identité d'une entreprise
L'utilisation par Google de l'intelligence artificielle (IA) pour lutter contre les publicités nuisibles a entraîné la suspension de 39,2 millions de comptes frauduleux. Dans son rapport 2024 sur la sécurité des publicités, Google a souligné l'efficacité des grands modèles de langage (LLM) avancés dans la détection et la prévention de la fraude des annonceurs. Les améliorations apportées depuis 2023 ont permis à ces modèles d'identifier rapidement les menaces émergentes avec un minimum de données, en ciblant des signaux tels que l'usurpation d'identité d'une entreprise et les méthodes de paiement illégales.
Ce développement fait suite à des années d'efforts de la part de Google pour détecter les annonces frauduleuses, notamment celles d'assistance technique, utilisées par des arnaqueurs de plus en plus professionnels. En 2018, la société a annoncé le lancement d'un programme de vérification mondial visant à garantir que seuls des fournisseurs légitimes peuvent faire de la publicité sur la plateforme de Google. L'entreprise a ainsi réaffirmé son engagement en faveur de la sécurité des utilisateurs, alors que les tactiques frauduleuses deviennent de plus en plus trompeuses et répandues.
En 2021, une étude de l'association de consommateurs Which ? a révélé que Google et Facebook n'ont pas pris les mesures nécessaires pour lutter contre les publicités frauduleuses. Le rapport a indiqué que de nombreuses publicités signalées restaient en ligne et qu'une grande partie des victimes déclaraient qu'aucune mesure n'avait été prise. En réponse, les deux entreprises ont réaffirmé leur opposition à la fraude et se sont engagées à améliorer en permanence la surveillance des publicités.
Ce mercredi 16 avril 2025, Google a publié son rapport 2024 sur la sécurité des publicités, mettant en évidence son utilisation de LLM avancés pour détecter et faire respecter la fraude des annonceurs. Depuis 2023, Google a apporté « 50 améliorations » à ses LLM qui « ne nécessitent qu'une fraction des informations dont les modèles antérieurs avaient besoin pour reconnaître rapidement les menaces émergentes, identifier les schémas d'abus et distinguer les entreprises légitimes des escroqueries. » Les indicateurs d'abus qui peuvent être détectés par l'outil d'IA de Google comprennent l'usurpation d'identité d'une entreprise et les détails de paiement illégaux.
En conséquence, Google a bloqué ou supprimé 5,1 milliards d'annonces l'année dernière. La majorité des annonces bloquées par Google étaient dues à des « abus du réseau publicitaire », c'est-à-dire à des méthodes visant à contourner le processus d'examen de Google en trompant les utilisateurs avec des annonces d'appât ou en utilisant des logiciels malveillants. D'autres annonces ont fait l'objet de violations de marques commerciales et d'annonces personnalisées qui violent les règles de Google en ciblant les utilisateurs ou en faisant la promotion de produits basés sur des sujets sensibles tels que les difficultés personnelles, l'identification et les croyances, et les intérêts sexuels.
Google utilise également l'IA pour lutter contre l'augmentation du nombre d'acteurs malveillants qui utilisent l'IA pour commettre des escroqueries. Les « deepfakes » sont de plus en plus répandus et convaincants. L'année dernière, l'acteur Tom Hanks a été utilisé pour promouvoir des canulars médicaux. Scarlett Johansson a intenté une action en justice contre une application qui avait utilisé son image et sa voix pour en faire la promotion. Google s'est attaqué aux « mauvais acteurs qui utilisent des images ou des sons générés par l'IA pour suggérer une affiliation avec une célébrité afin de promouvoir une escroquerie » en suspendant plus de 700 000 comptes d'annonceurs, ce qui a entraîné une diminution de 90 % du nombre de signalements. Au total, 415 millions de publicités frauduleuses ont été bloquées ou supprimées.
L'équipe de sécurité publicitaire de Google a déclaré avoir fermé la majorité des comptes frauduleux avant même que les utilisateurs ne reçoivent une publicité. Compte tenu du volume actuel de contenus offensifs et nuisibles sur l'internet, il est difficile d'imaginer l'ampleur des publicités qui n'ont jamais vu le jour.
Des modèles plus avancés améliorent l'application des règles
Selon le rapport de Google, les acteurs malveillants adaptent constamment leurs tactiques pour échapper à la détection, ce qui fait de l'application des politiques un effort permanent. Alors que les anciens modèles d'apprentissage automatique de Google nécessitaient de vastes ensembles de données pour l'entraînement, les derniers LLM de Google fonctionnent de manière beaucoup plus efficace. Ils n'ont besoin que d'une fraction des informations requises par les modèles antérieurs pour reconnaître rapidement les menaces émergentes, identifier les schémas d'abus et distinguer les entreprises légitimes des escroqueries. « Cette agilité est essentielle pour lutter à grande échelle contre des menaces diverses et en évolution rapide », selon l'entreprise.
L'année dernière, Google a investi massivement pour rendre ses LLM plus avancés, en apportant plus de 50 améliorations à ses modèles. Cette initiative a permis une application plus efficace et plus précise des règles à grande échelle. En donnant la priorité à ces avancées techniques, les équipes de Google ont pu se concentrer sur des problèmes plus complexes et ambigus, ce qui permet aux LLM de disposer de données d'entraînement nuancées pour mieux traiter ces cas à l'avenir.
Dans son rapport, Google a pris l'exemple de l'application des règles en matière d'édition, qui permet aux éditeurs de monétiser en toute sécurité leur contenu par le biais d'annonces : les modèles alimentés par l'IA de Google ont contribué à la détection et à l'application de 97 % des pages pour lesquelles des mesures ont été prises en 2024. En utilisant ces modèles, Google a « considérablement accéléré l'examen des sites, permettant ainsi une monétisation plus rapide tout en empêchant les publicités d'apparaître sur les pages en infraction ».
Empêcher des milliards de mauvaises publicités d'être diffusées
Selon Google, les LLM ont non seulement fait progresser l'application des règles, mais ils ont également amélioré la capacité d'entreprise à être plus proactif dans la prévention des abus. Ces outils alimentés par l'IA ont accéléré les enquêtes complexes, améliorant la capacité de Google à découvrir et à prévenir les réseaux de mauvais acteurs et les récidivistes.
« Ces efforts de prévention ont permis d'éviter que des milliards d'annonces contraires aux règles ne soient jamais diffusées auprès d'un consommateur, tout en garantissant que les entreprises légitimes puissent diffuser rapidement des annonces auprès de clients potentiels », a déclaré Google.
Pour ce faire, Google a lutté contre la fraude publicitaire à grande échelle, en utilisant des signaux tels que l'usurpation d'identité d'une entreprise et les détails de paiement illégitimes comme indicateurs précoces d'un préjudice potentiel pour le consommateur. Tout au long de l'année 2024, l'entreprise a investi dans la lutte contre la fraude dès le processus de création de compte, ce qui lui a permis d'arrêter un nombre incalculable d'annonces préjudiciables avant qu'elles ne soient diffusées. Pour mettre les choses en perspective : Google a suspendu plus de 39,2 millions de comptes au total, la grande majorité d'entre eux ayant été suspendus avant même la diffusion d'une annonce.
La vérification de l'identité de l'annonceur est un autre outil important utilisé par Google pour empêcher les mauvais acteurs suspendus de revenir, tout en assurant la transparence sur l'identité de l'auteur d'une annonce. Ce programme couvre aujourd'hui plus de 200 pays et territoires, et plus de 90 % des annonces vues par les internautes sur Google proviennent en moyenne d'annonceurs vérifiés. Google a annoncé qu'elle continue d'augmenter ce nombre et de vérifier les comptes quotidiennement, à mesure que de nouveaux annonceurs rejoignent la plateforme.
Application de la politique des annonceurs
Selon Google, ses règles sont conçues pour favoriser une expérience sûre et positive pour ses utilisateurs. C'est pourquoi l'entreprise a interdit les contenus qu'elle estime préjudiciables aux utilisateurs et à l'ensemble de l'écosystème publicitaire.
S'adapter pour lutter contre des escroqueries en constante évolution
Depuis les premiers jours de l'internet, Google affirme avoir lutté contre des escrocs sophistiqués utilisant des techniques en constante évolution pour tenter de déjouer ses systèmes. Selon l'entreprise, 2024 n'a pas fait exception à la règle. Au cours de cette année, Google a pris des mesures pour renforcer ses défenses contre ces mauvais acteurs en renforçant et en élargissant ses politiques, en déployant des équipes d'intervention rapide et en affinant sa détection pour limiter la portée des escroqueries. Reconnaissant qu'il s'agit d'un défi qui concerne l'ensemble du secteur, Google a également renforcé le partage d'informations entre les différents secteurs en cofondant le nouveau Global Signal Exchange avec la Global Anti-Scam Alliance (Alliance mondiale contre les escroqueries).
Selon le géant de la technologie, l'une des tendances qui s'est dégagée à l'échelle du secteur est l'augmentation des annonces d'usurpation d'identité de personnalités publiques - des acteurs malveillants utilisant des images ou des sons générés par l'intelligence artificielle pour suggérer une affiliation avec une célébrité afin de promouvoir une escroquerie. Pour riposter, Google a constitué une équipe de plus de 100 experts chargés d'analyser ces escroqueries et de mettre au point des contre-mesures efficaces, telles que la mise à jour de ses règles en matière de fausses déclarations afin de suspendre les annonceurs qui font la promotion de ces escroqueries. Google a ainsi pu suspendre de manière permanente plus de 700 000 comptes d'annonceurs en infraction, ce qui a entraîné une baisse de 90 % des signalements de ce type d'annonces frauduleuses en 2024. Bien que Google se réjouisse de ces progrès, l'entreprise affirme qu'elle continue de travailler à la prévention de ces escroqueries.
Il ne s'agit là que d'un exemple parmi d'autres du travail permanent de Google pour lutter contre toutes sortes d'escroqueries basées sur la publicité dans le monde entier. En 2024, Google a bloqué ou supprimé 415 millions d'annonces et suspendu plus de 5 millions de comptes pour avoir enfreint ses règles en matière d'annonces les plus étroitement associées à des escroqueries.
Annonces restreintes
Les règles ci-dessous couvrent des contenus parfois sensibles d'un point de vue juridique ou culturel. La publicité en ligne peut être un moyen efficace pour Google d'atteindre ses clients, mais dans les domaines sensibles, l'entreprise a indiqué qu'elle s'efforce d'éviter de diffuser des annonces à des moments et dans des lieux où elles pourraient être inappropriées. « C'est pourquoi Google autorise la promotion du contenu ci-dessous, mais de manière limitée. Il se peut que ces promotions ne soient pas diffusées auprès de tous les utilisateurs et dans tous les lieux, et que les annonceurs doivent remplir des conditions supplémentaires pour que leurs annonces puissent être diffusées. », a indiqué Google.
Préserver l'intégrité des élections dans le monde entier
2024 a été une année majeure pour les élections mondiales, et la moitié de la population mondiale vivait dans un pays qui s'est rendu aux urnes. Selon Google, ses efforts pour soutenir l'intégrité des élections n'ont jamais été aussi important qu'au cours de cette année. Dans le cadre de cet effort, l'entreprise a étendu à de nouveaux pays ses exigences en matière de vérification d'identité et de transparence pour les annonceurs d'élections. Ces mesures, qui comprennent la mention « payé par » et un rapport de transparence public sur toutes les annonces électorales, permettent aux utilisateurs du monde entier d'identifier les annonces électorales et de savoir qui a payé pour les annonces qu'ils voient.
En outre, Google indique avoir été la première entreprise à imposer des exigences de divulgation pour les contenus générés par l'IA dans les annonces électorales, en s'appuyant sur ses efforts de transparence existants en matière d'élections.
Au cours de la seule année écoulée, Google a vérifié plus de 8 900 nouveaux annonceurs électoraux et a supprimé 10,7 millions d'annonces électorales provenant de comptes non vérifiés. L'entreprise a également continué d'appliquer ses règles contre les annonces électorales manifestement fausses dans le monde entier.
Application des règles par les éditeurs
Google indique qu'elle soutient le Web ouvert en aidant les éditeurs à monétiser leur contenu. Ce contenu est toutefois soumis à certaines règles et restrictions imposées par les éditeurs.
Les chiffres de l'application des règles en 2024 : Un témoignage de l'impact de l'IA
Le paysage de la sécurité des publicités est en constante évolution, remodelé par des percées technologiques telles que les progrès de l'IA, les nouvelles tactiques d'abus et les événements mondiaux qui exigent une agilité permanente de la part du secteur. Dans cet environnement dynamique, Google a précisé qu'elle relève ces défis en déployant des technologies de pointe et en collaborant avec des partenaires afin de favoriser une expérience en ligne plus sûre pour tous.
Source : Google
Et vous ?
Quel est votre avis sur le sujet ?
Voir aussi :
Répondre avec citation
Partager