Hackers gebruikten Metas eigen AI-chatbot om Instagram-accounts over te nemen
In mei werden duizenden Instagram-gebruikers uit hun accounts gesloten door hackers die gebruik maakten van Metas eigen AI-ondersteuningschatbot. Schermopnamen die online circuleerden, suggereerden dat het beveiligingsgat werd uitgebuit om wachtwoorden opnieuw in te stellen.
Meta introduceerde zijn AI-ondersteuningschatbot in maart op Facebook en Instagram. Deze functie verschilt van Metas bekendere Meta AI. De AI-ondersteuningsassistent kan namens gebruikers actie ondernemen voor verzoeken zoals het rapporteren van inhoud, inzicht in verwijderde inhoud, het beheren van privacyinstellingen, het opnieuw instellen van wachtwoorden en het bijwerken van profielinstellingen.
Verschillende wijdverspreide opnamen en afbeeldingen van de hack toonden aan dat hackers de Meta AI-ondersteuningsassistent instructies gaven om een e-mailadres te gebruiken dat verschilde van de e-mail die bij de Instagram-accounts van gebruikers hoorde. Nadat de wisseling was doorgevoerd, konden hackers de verificatiecode benaderen die naar het nieuwe e-mailadres was gestuurd. Zij gebruikten dit om het accountwachtwoord opnieuw in te stellen en de Instagram-account van de gebruiker over te nemen.
Veel getroffen gebruikers stelden dat ze uit hun accounts waren afgemeld en dat contact opnemen met Meta voor hulp hen naar een ander AI-chatbot leidde. Sommigen merkten op dat zij oneerlijk waren bestraft nadat zij waren gehackt.
Ook verschillende prominente accounts werden rond deze periode gehackt, zoals de Instagram-account van het Witte Huis van voormalig Amerikaanse president Barack Obama (@obamawhitehouse), die voor het laatst in 2017 bericht plaatste. Op het moment van het schrijven van dit artikel bevestigde Meta niet of deze specifieke beveiligingsinbreuk verband hield met hackers die de Meta AI-ondersteuningschatbot gebruikten.
Volgens TechCrunch gingen de aanvallen op accounts van gebruikers door, ook nadat Meta het probleem had aangepakt.
Hoewel het bedrijf geen formele verklaring over de hack aflegde, antwoordde Meta-woordvoerder Andy Stone op het X-platform op gebruikers over de cyberaanval. "Dit probleem is opgelost en we beveiligen getroffen accounts," zei Stone tegen een gebruiker, zonder verdere bevestiging of ontkenning. Stone vertelde een ander X-gebruiker dat Instagram probeerde de toegang voor getroffen personen te herstellen, wat betekende dat sommige gebruikers meldingen voor het opnieuw instellen van wachtwoorden of verificatie van beveiligingsvragen konden zien bij inloggen. Dit triggerde op zijn beurt alarm en argwaan onder sommige gebruikers die vreesden doelwit van aanvullende phishing-aanvallen.
The Hindu heeft Meta meerdere keren benaderd om de details van het exploit duidelijk te maken en te vernemen hoeveel gebruikers waren getroffen, maar ontving geen officieel antwoord.
Hoewel kwaadaardige actoren generatieve AI en agentic AI-technologieën hebben aangenomen om phishing-aanvallen of social engineering-aanvallen op grote schaal uit te voeren, is het geval van Meta uniek. Hier wijst het gedeelde bewijs erop dat de eigen AI-klantenondersteuningschatbot van het bedrijf hackers helpt cybercriminaliteit te plegen. In tegenstelling tot andere cyberaanvallen die AI-tools van derden gebruiken, breekt dit incident het vertrouwen dat een klant in een verondersteld gecontroleerde AI-chatbot van een bedrijf stelt.
Satnam Narang, Senior Staff Research Engineer bij het cyberbeveiligingsbedrijf Tenable, zei dat het Meta-incident "een van de meest ingrijpende misbruiken van AI-chatbots" tot dusver was. Hij waarschuwde dat naarmate bedrijven AI inzetten voor hun chatbots, meer dergelijke incidenten kunnen worden verwacht.
