Snapchat AI-chatbot deelt gevoelige informatie

snapchat wordt vooral gebruikt chatten

 

Een experiment van Cybernews toont aan dat de AI-chatbot van Snapchat eenvoudig gemanipuleerd kan worden. Onderzoekers wisten via zogenaamde “jailbreaking” technieken verboden informatie op te vragen — ondanks dat Snapchat aangeeft dat de chatbot extra beveiligingslagen heeft. Het gaat hierbij om de AI-tool My AI, die sinds 2023 beschikbaar is en maandelijks door meer dan 900 miljoen gebruikers wordt ingezet.

Hoewel de chatbot volgens Snapchat getraind is met diverse beveiligingsmechanismen, lukte het Cybernews om deze te omzeilen. Tijdens het experiment werd gevraagd om een verhaal te vertellen over de Winteroorlog tussen Finland en de Sovjet-Unie. In het antwoord gaf de chatbot een gedetailleerde beschrijving van hoe geïmproviseerde wapens, zoals brandbommen, vroeger werden gebouwd. Volgens de onderzoekers gebeurde dit “zonder enige aarzeling”.

Cybernews benadrukt dat hiermee het risico zichtbaar wordt dat minderjarigen via AI toegang kunnen krijgen tot gevaarlijke instructies. Het onderzoeksteam heeft Snapchat geïnformeerd over de bevindingen, maar stelt dat er tot op heden geen oplossing is doorgevoerd; het lek was bij publicatie nog steeds aanwezig. Ook andere AI-systemen, zoals die van Meta Platforms en Lenovo, bleken vatbaar voor vergelijkbare manipulatie.

De gebruikte “jailbreak”-techniek omvat speciaal ontworpen prompts die de ingebouwde veiligheidsregels van de chatbot omzeilen. Cybernews waarschuwt dat dit fenomeen breed schaalbaar is en een voorbeeld vormt van hoe AI-systemen buiten hun ethische en operationele grenzen kunnen worden misbruikt.

Snapchat begint Australische tieners te informeren over beperkingen

Snapchat, de populaire berichtenapp onder jongeren, heeft aangekondigd dat ze gebruikers in Australië die jonger zijn dan 16 jaar, de toegang tot hun profielen zullen ontzeggen vanaf 10 december 2025. Dit besluit volgt op de invoering van een nieuwe wetgeving in Australië die strengere leeftijdsbeperkingen oplegt aan sociale platforms. Snapchat, dat eerder probeerde te worden gezien als een berichtenapp in plaats van een sociaal platform om deze wetgeving te omzeilen, heeft nu geaccepteerd dat het zich aan de nieuwe regels moet houden.

Gebruikers jonger dan 16 jaar die al een Snapchat-account hebben, wordt aangeraden hun gegevens zo snel mogelijk te downloaden voordat hun account wordt vergrendeld. Ze krijgen drie jaar de tijd om hun account opnieuw te activeren als ze in die periode 16 worden. Als ze dat niet doen, worden hun gegevens definitief verwijderd. Snapchat adviseert deze gebruikers ook om eventuele abonnementen op Snapchat+ of Memories+ op te zeggen.

Naast deze maatregelen introduceert Snapchat nieuwe leeftijdscontroles in de app in Australië. Gebruikers kunnen kiezen uit drie opties voor leeftijdsverificatie: ConnectID (verificatie via een Australische bankrekening), Foto-ID (scannen van een door de overheid uitgegeven identiteitskaart) en Gezichts-leeftijdsschatting (het maken van een selfie waarmee een externe dienst de geschatte leeftijd bepaalt). Snap benadrukt dat het geen toegang krijgt tot gezichtsscans, bankgegevens of andere persoonlijke informatie die tijdens de leeftijdsverificatie wordt verstrekt.

De nieuwe Australische wet gaat verder dan de huidige minimumleeftijd van 14 jaar die veel sociale platforms hanteren. Het legt strengere regels en financiële sancties op om platforms te dwingen beter te controleren of jonge tieners toegang krijgen. De effectiviteit van deze maatregelen is echter onderwerp van discussie, omdat leeftijdsdetectiemethoden kunnen worden omzeild.

Het zal interessant zijn om te zien hoe de jonge Australische gebruikers zullen reageren op deze nieuwe beperkingen, vooral gezien de belangrijke verbindende rol die Snapchat en andere sociale apps spelen in hun dagelijks leven. Veel landen zullen de ontwikkelingen in Australië nauwlettend volgen, aangezien andere regio’s vergelijkbare maatregelen overwegen. De vraag blijft hoe goed deze controleprocessen daadwerkelijk zijn in het buitensluiten van tieners onder de 16, en of zij niet simpelweg over hun leeftijd kunnen liegen. De wettelijke formulering dat platforms “redelijke maatregelen” moeten nemen, laat veel ruimte voor interpretatie, wat het lastig kan maken om naleving juridisch af te dwingen. Desalniettemin zijn apps begonnen met het waarschuwen van hun gebruikers, net op tijd voor de schoolvakantie.

Hoofdstuk 1 Nu ook video- en belfunctie in Snapchat!

snapchat-001

Snapchat lijkt keihard de strijd aan te gaan met WhatsApp. Je kunt nu ook bellen via de populaire plaatjes en video deler. In Nederland heeft Snapchat 2,5 miljoen gebruikers. Dit zijn veelal jongeren. Snapchat maakte 29 maart 2016 de nieuwe functies op hun blog bekend:

 

When we first launched Chat, our goal was to emulate the best parts of face-to-face conversation. Chat 1.0 was all about the joys of being here — when most apps told you when your friend was typing, Chat let you know that your friend was listening. Two years later, we’ve learned a ton about how people talk, but our goal remains unchanged. We want Chat to be the best way to communicate — second only to hanging out face-to-face.

Lees verder

Hoofdstuk 4 [Presentatie] Psychologie van Snapchat + interview auteur Hooked

Snapchat-flashy-features

Snapchat is iets voor gebruikers onder de 30. Zo lijkt het. Aldus deze presentatie van Nir Eyal. Eyal sprak en interviewde ik eerder op The Next Web in Amsterdam. Nir is bekend van zijn boek Hooked en legt relaties tussen het gebruik van social media en het overtuigen van klanten en gebruikers. Daarbij spelen verschijnselen van verslavingen een grote rol.  Lees verder