Google publiceerde een blogbericht waarin werd gedeeld dat het zijn machine learning-systemen heeft bijgewerkt om meer neprecensies, nep-bedrijfsvermeldingen en frauduleuze afbeeldingen en video’s op te vangen en te verwijderen. Geautomatiseerde systemen en menselijke beoordelingsteams verwijderden meer dan 200 miljoen foto’s, 7 miljoen video’s en blokkeerden of verwijderden meer dan 115 miljoen weergaven, een stijging van 20% ten opzichte van het voorgaande 2021.
Hoe Google door gebruikers ingediende spam vangt
Google gebruikt gloednieuwe machine learning-modellen om valse en frauduleuze inhoud te vinden en te verwijderen. Deze machine learning-modellen zoeken naar ongebruikelijke patronen in door gebruikers aangeleverde inhoud, inclusief het markeren van nieuwe vormen van misbruik die nog niet eerder zijn gezien.
Google heeft gedeeld:
“We gebruiken machine-intelligentie al lang om ons te helpen patronen van mogelijk misbruik te identificeren, en we blijven onze technologie verbeteren. Vorig jaar hebben we een belangrijke update van onze machine learning-modellen geïntroduceerd, waardoor nieuwe misbruiktrends vele malen sneller konden worden geïdentificeerd dan in voorgaande jaren. Onze geautomatiseerde systemen detecteerden bijvoorbeeld een sterke toename van bedrijfsprofielen op sites die eindigen op .design of .top, iets dat moeilijk handmatig te vinden zou zijn in miljoenen profielen. Ons analyseteam bevestigde snel dat deze sites nep waren, dus we konden ze verwijderen en de betrokken accounts snel uitschakelen. De systemen van Google beoordelen nieuwe inhoud voordat deze wordt gepubliceerd om valse of frauduleuze inhoud die naar het Google Maps-systeem wordt verzonden, te blokkeren. Ze gebruiken ook een machine learning-model om inhoud te scannen die al is gepubliceerd en nepinhoud op te pikken die tijdens de eerste vertoningen mogelijk is gemist. Deze nieuwe systemen blokkeren spam sneller dan in 2021. en vangt er meer van.
Google legde uit:
“Op sommige plaatsen zijn oplichters begonnen met het plaatsen van onnauwkeurige telefoonnummers op de foto’s die ze leveren, in de hoop nietsvermoedende slachtoffers te misleiden om een oplichter te bellen in plaats van echte zaken te doen.” Om dit probleem tegen te gaan, hebben we een nieuw machine learning-model geïmplementeerd dat de nummers in de aangeleverde afbeeldingen kan herkennen door specifieke visuele details en de lay-out van de foto’s te analyseren. Met behulp van dit model hebben we met succes de overgrote meerderheid van deze frauduleuze en beleidsschendende afbeeldingen gedetecteerd en geblokkeerd voordat ze werden gepubliceerd.
Statistieken over het blokkeren van spam
In een verklaring deelde Google dat in 2022
- Google blokkeerde of verwijderde meer dan 115 miljoen beoordelingen en zei dat de meeste waren geblokkeerd voordat ze werden gepubliceerd.
- Nieuwe antispamalgoritmen hebben meer dan 200 miljoen foto’s en meer dan 7 miljoen video’s verwijderd die in strijd zijn met het inhoudsbeleid van Google.
- 20 miljoen pogingen om nep-bedrijfsprofielen te maken geblokkeerd.
- Verbeterde bescherming toegevoegd voor meer dan 185.000 bedrijven die verdachte activiteiten hebben ervaren.
in 2023 maand januari. Google stuurde de FTC een opmerking (lees hier het pdf-bestand) waarin staat dat Google naast het beoordelen van inhoud ook signalen gebruikt om nepaccounts te identificeren. Google deelde ook dat het nu de afbeeldingen scant om inhoud op de afbeeldingen te detecteren om telefoontjes weg te leiden van het bedrijf en naar het telefoonnummer van de oplichter. Ze controleren op bots, dubbele inhoud, woordpatronen die lijken op bekende neprecensies en gebruiken een systeem dat ze ‘slimme tekstvergelijking’ noemen om misleidende inhoud te helpen identificeren.
Authentiek, veilig en betrouwbaar
Google gebruikt zowel geautomatiseerde als menselijke verificateurs om niet-authentieke activiteit in het Google Maps-ecosysteem te blokkeren. Het opsporen van frauduleuze activiteiten op Google Maps is belangrijk voor zowel mensen die afhankelijk zijn van bedrijfsbeoordelingen als bedrijven die bedrijven op het systeem hebben.
Afbeelding met dank aan Shutterstock/ViDI Studio
Bron: Google