För bara några veckor sedan lyckades en forskargrupp från University of Washington sätta Googles AI för videoanalys ur spel enbart genom att långsamt föra in en stillbild i en videosekvens. Nu har forskarna gått vidare till att testa Googles verktyg för bildklassificering, Cloud Vision API, och ännu en gång har de med minimal ansträngning lyckats lura maskinen. Det skriver The Register.
Genom att applicera lite brus på bilderna lyckades forskarna få programmet till att se en fågel på en bild som egentligen visade ett flygplan, och en blommig tekanna klassificerades som biologi.
”Vi upptäckte att vi kunde lura api:et till att ge fel output, och till att misslyckas känna igen någons ansikte eller text i bilden, genom att lägga till lite brus”, skriver forskarna i sin rapport.
Läs också: FBI:s system för ansiktsigenkänning – en enda röra
Att Google ännu en gång åker på bakläxa från forskarlaget kan ses som en lustig företeelse, men som de själva pekar ut i sin rapport skulle mörka krafter kunna missbruka gränssnittets svaghet. Till exempel skulle bruset kunna mörka olagligt innehåll som barnporr.
”En sökmotor baserad på api:et kan felaktigt föreslå en brusig bild till en användare som söker efter annat innehåll. Dessutom kan en angripare enkelt kringgå bildfiltreringssystemet genom att lägga till brus på en bild med olämpligt innehåll”, skriver forskarna i sin rapport.
