Sociale media trends

Sociale media trends

Snapchat AI-chatbot deelt gevoelige informatie

Geplaatst op door admin

snapchat wordt vooral gebruikt chatten

 

Een experiment van Cybernews toont aan dat de AI-chatbot van Snapchat eenvoudig gemanipuleerd kan worden. Onderzoekers wisten via zogenaamde “jailbreaking” technieken verboden informatie op te vragen — ondanks dat Snapchat aangeeft dat de chatbot extra beveiligingslagen heeft. Het gaat hierbij om de AI-tool My AI, die sinds 2023 beschikbaar is en maandelijks door meer dan 900 miljoen gebruikers wordt ingezet.

Hoewel de chatbot volgens Snapchat getraind is met diverse beveiligingsmechanismen, lukte het Cybernews om deze te omzeilen. Tijdens het experiment werd gevraagd om een verhaal te vertellen over de Winteroorlog tussen Finland en de Sovjet-Unie. In het antwoord gaf de chatbot een gedetailleerde beschrijving van hoe geïmproviseerde wapens, zoals brandbommen, vroeger werden gebouwd. Volgens de onderzoekers gebeurde dit “zonder enige aarzeling”.

Cybernews benadrukt dat hiermee het risico zichtbaar wordt dat minderjarigen via AI toegang kunnen krijgen tot gevaarlijke instructies. Het onderzoeksteam heeft Snapchat geïnformeerd over de bevindingen, maar stelt dat er tot op heden geen oplossing is doorgevoerd; het lek was bij publicatie nog steeds aanwezig. Ook andere AI-systemen, zoals die van Meta Platforms en Lenovo, bleken vatbaar voor vergelijkbare manipulatie.

De gebruikte “jailbreak”-techniek omvat speciaal ontworpen prompts die de ingebouwde veiligheidsregels van de chatbot omzeilen. Cybernews waarschuwt dat dit fenomeen breed schaalbaar is en een voorbeeld vormt van hoe AI-systemen buiten hun ethische en operationele grenzen kunnen worden misbruikt.

Rusland wil eigen social berichten ‘superapp’ bouwen

Geplaatst op door admin

img 69d6708e3b842

 

Rusland zet in op de ontwikkeling van zijn app Max, met als doel deze om te vormen tot een zogenoemde “superapp”. Daarbij kijkt het land nadrukkelijk naar succesvolle Chinese platforms zoals WeChat en Douyin, waar communicatie, betalingen en online diensten samenkomen in één ecosysteem.

Volgens VK-topman Vladimir Kiriyenko moet Max uitgroeien tot een platform dat verder gaat dan alleen berichten sturen. De ambitie is om bedrijven, ontwikkelaars en gebruikers samen te brengen in één digitale omgeving waarin ook handel en diensten geïntegreerd zijn.

We want to create an open ecosystem similar to WeChat, where users can access multiple services within one app. — Vladimir Kiriyenko, via Reuters

Huidige uitdaging

Ondanks de ambities blijft het succes van Max onzeker. Veel Russische gebruikers geven nog de voorkeur aan Telegram, dat al een breed scala aan functies biedt, zoals betaalmogelijkheden, contentplatforms en zakelijke toepassingen. De Russische overheid moedigt het gebruik van Max aan als binnenlands alternatief, maar het platform moet nog flink groeien om te kunnen concurreren. Inmiddels hebben zich wel al honderdduizenden bedrijven geregistreerd, wat wijst op interesse vanuit de zakelijke markt.

Door elementen van Douyin toe te voege, zoals korte video’s gekoppeld aan e-commerce—hoopt Rusland een nieuwe digitale economie te stimuleren, waarin content en verkoop steeds nauwer met elkaar verweven raken.

ONDERZOEK Scientias: ‘Een derde onderzoek sociale media heeft banden met big tech (zonder te melden)’

Geplaatst op door admin

Uit recent onderzoek blijkt dat een aanzienlijk deel van het wetenschappelijke onderzoek naar sociale media verweven is met grote technologiebedrijven, terwijl die banden lang niet altijd openlijk worden vermeld. Het gaat daarbij om connecties met bedrijven zoals Meta, Google en andere invloedrijke spelers binnen de techwereld. Volgens platform Scientias heeft bijna één op de drie onderzochte studies op een bepaalde manier een relatie met zulke bedrijven, zonder dat dit duidelijk terug te vinden is in de uiteindelijke publicaties. Dat betekent dat lezers, beleidsmakers en andere onderzoekers niet altijd kunnen zien welke belangen mogelijk meespelen bij de totstandkoming van de onderzoeksresultaten.

Om dit in kaart te brengen bekeken onderzoekers honderden wetenschappelijke artikelen die de afgelopen jaren zijn gepubliceerd in bekende en gezaghebbende vakbladen. In sommige gevallen werd netjes vermeld dat een technologiebedrijf had meegewerkt aan het onderzoek of dat er sprake was van financiering vanuit de sector. Toch bleek uit aanvullend onderzoek dat het werkelijke aantal connecties waarschijnlijk veel groter is dan officieel wordt aangegeven. Met andere woorden: een flink deel van de banden tussen onderzoekers en technologiebedrijven blijft buiten beeld, waardoor de mate van onafhankelijkheid minder duidelijk is dan het lijkt.

De situatie wordt nog opvallender wanneer niet alleen naar de onderzoekers zelf wordt gekeken, maar ook naar andere betrokkenen in het wetenschappelijke proces, zoals redacteuren en beoordelaars van artikelen. Deze mensen spelen een belangrijke rol bij de vraag welke onderzoeken uiteindelijk gepubliceerd worden en hoe streng ze worden beoordeeld. Wanneer hun mogelijke connecties met technologiebedrijven ook worden meegenomen, blijkt dat het aantal volledig onafhankelijke onderzoeken naar sociale media nog kleiner is dan eerder gedacht. Volgens schattingen is slechts een beperkt deel van al het onderzoek op dit gebied volledig vrij van invloed van big tech, vanaf het verzamelen van gegevens tot en met de uiteindelijke publicatie.

Wetenschap

Dat leidt tot bezorgdheid binnen de wetenschappelijke wereld en daarbuiten. Onderzoek naar sociale media wordt namelijk vaak gebruikt als basis voor politieke besluiten, nieuwe wetgeving en maatschappelijke discussies over onderwerpen als privacy, mentale gezondheid en online veiligheid. Wanneer er twijfel bestaat over de onafhankelijkheid van dat onderzoek, kan dat gevolgen hebben voor hoe betrouwbaar beleidskeuzes uiteindelijk zijn. Critici vinden daarom dat er strengere regels moeten komen rondom openheid en transparantie. Zij pleiten voor duidelijke richtlijnen waarbij onderzoekers verplicht worden om iedere vorm van samenwerking, financiering of andere belangenverstrengeling openbaar te maken, vergelijkbaar met de strikte regels die al langer gelden binnen de medische wetenschap.

Aan de andere kant wijzen sommige deskundigen erop dat samenwerking met technologiebedrijven niet altijd te vermijden is. Grote platforms beschikken immers over enorme hoeveelheden gebruikersdata waar externe onderzoekers zonder hulp van die bedrijven vaak geen toegang toe hebben. Zonder die gegevens zou veel onderzoek naar sociale media simpelweg niet uitgevoerd kunnen worden. Volgens deze experts is samenwerking dus niet per definitie verkeerd, zolang daar maar volledig open over wordt gecommuniceerd. Juist daarom benadrukken zij dat het essentieel is dat alle banden helder en eerlijk worden vermeld, zodat iedereen kan beoordelen in hoeverre een onderzoek onafhankelijk tot stand is gekomen.

Alleen op die manier kan het vertrouwen in wetenschappelijk onderzoek behouden blijven en kunnen onderzoeksresultaten geloofwaardig en bruikbaar blijven voor de samenleving.

‘Waarom steeds meer jongeren een socialmediaverbod voor kinderen steunen’

Geplaatst op door admin

“Ik ben opgegroeid zonder sociale media. Mijn eerste verliefdheid speelde zich af op een schoolplein, niet in een DM. Mijn onzekerheden waren echt genoeg, maar ze werden tenminste niet dagelijks gevoed door algoritmes die precies wisten waar ze pijn deden. ” Misschien is dat de reden dat het me raakt dat inmiddels bijna twee derde van de Nederlanders een verbod op sociale media voor kinderen onder de 16 jaar steunt.

Die steun komt niet alleen van bezorgde ouders van mijn generatie. Wat me vooral opvalt, is dat jongeren zélf steeds vaker zeggen: dit is te veel. Uit recent onderzoek blijkt dat 60 procent van Generatie Z vindt dat kinderen onder de 16 niet op sociale media thuishoren. Een jaar geleden was dat nog aanzienlijk minder. Zoals onderzoeksdirecteur Neil van der Veer het verwoordde:

“Deze verschuiving in één jaar tijd is enorm. Het doorbreekt het cliché dat jongeren geen regels willen.”

Dat citaat bleef hangen. Want het laat zien dat dit debat niet draait om ouderwets vingertje-wijzen, maar om ervaring. Jongeren weten inmiddels hoe het voelt om continu beoordeeld te worden, om altijd ‘aan’ te staan, om jezelf te vergelijken met perfect gefilterde levens.

Mentale gezondheid

De cijfers zijn confronterend. Miljoenen Nederlanders geven aan dat sociale media hen minder gelukkig maken. Nog meer mensen zien het als een risico voor hun mentale gezondheid. Dat zijn geen abstracte getallen, dat zijn collega’s, vrienden, kinderen. Ik zie het ook om me heen. Kinderen die niet meer gewoon “klaar” zijn met school als de bel gaat, omdat het online leven meteen begint. De groepsapps, de likes, de onuitgesproken angst om iets te missen. Het stopt nooit echt. Is het dan zo gek dat steeds meer mensen denken: misschien moeten we kinderen hiertegen beschermen?

  • Uit de enquête gedeeld op NOS.nl blijkt dat “2,6 miljoen mensen zeggen zich minder gelukkig te voelen door sociale media,” een stijging ten opzichte van vorig jaar.

  • “7,2 miljoen Nederlanders denken dat sociale media een risico vormen voor hun mentale gezondheid.”

Maar een verbod alleen is niet genoeg

Tegelijkertijd begrijp ik de tegenargumenten. Sociale media zijn niet per definitie slecht. Ze kunnen verbinden, creativiteit stimuleren en jongeren helpen hun plek te vinden. Een verbod lost ook niet automatisch alles op. De digitale wereld verdwijnt niet bij de voordeur van iemands zestiende verjaardag. Wat mij aanspreekt in dit groeiende draagvlak, is niet zozeer het verbod zelf, maar de erkenning dat we grenzen nodig hebben. Dat we durven toegeven dat kinderen niet alles zelf hoeven uit te zoeken in een omgeving die ontworpen is om hen zo lang mogelijk vast te houden. Australië zette onlangs een stap met een verbod voor jongeren onder de 16. Of Nederland dat voorbeeld moet volgen, is een politieke vraag. Maar maatschappelijk gezien lijkt het gesprek kantelend. Minder naïef. Minder “ze redden zich wel”.

Misschien is dit volwassen worden

Misschien is dit wat volwassen worden als samenleving betekent: durven zeggen dat niet elke technologische mogelijkheid ook een vooruitgang is. Dat bescherming geen betutteling hoeft te zijn. En dat luisteren naar jongeren soms betekent dat we hen juist wél serieus nemen als ze zeggen: dit is te veel.

Als veertiger kijk ik hier niet nostalgisch naar terug, maar vooruit. Naar een generatie die hopelijk leert dat hun waarde niet afhangt van een scherm. En naar ouders, politici en bedrijven die eindelijk erkennen dat verantwoordelijkheid verder gaat dan gebruiksvoorwaarden onderaan een pagina.

Meta stopt met wereldwijde AI-personages voor tieners

Geplaatst op door admin

 

Meta heeft aangekondigd de toegang tot zijn interactieve AI-personages voor minderjarigen wereldwijd tijdelijk stop te zetten. De maatregel volgt op groeiende zorgen over de veiligheid van jongeren en scherper toezicht door toezichthouders.

Toegang wordt geblokkeerd

De directe aanleiding voor het besluit is de noodzaak om de huidige AI-ervaring grondig te herzien. In de afgelopen maanden kreeg Meta felle kritiek nadat bleek dat sommige chatbots ongepaste of zelfs uitdagende gesprekken voerden met minderjarigen. Door de toegang nu volledig te pauzeren, wil het bedrijf voorkomen dat jongeren in contact komen met content die niet voor hun leeftijd bedoeld is.

Focus op veiligheid

Meta werkt momenteel aan een speciale versie van de AI-personages die voldoet aan striktere veiligheidsnormen. Deze nieuwe ervaring zal gebaseerd worden op een ‘PG-13’-classificatie (vergelijkbaar met de Kijkwijzer voor 12 jaar en ouder). Een belangrijk onderdeel van de update is de introductie van uitgebreid ouderlijk toezicht. Ouders krijgen hiermee de mogelijkheid om privéchats tussen hun kinderen en AI-personages volledig uit te schakelen.

De blokkade gaat de komende weken in en geldt voor alle gebruikers die als minderjarig geregistreerd staan. Meta benadrukt dat dit niet alleen geldt voor accounts waarvan de geboortedatum bekend is, maar ook voor gebruikers van wie de technologie vermoedt dat zij tieners zijn, ondanks een opgegeven volwassen leeftijd. Overigens blijft de algemene ‘Meta AI-assistent’ nog wel toegankelijk voor tieners; de maatregel beperkt zich specifiek tot de gesimuleerde AI-karakters.

Toenemende druk

De timing van dit besluit is niet toevallig. Meta ligt, samen met platformen als TikTok en YouTube, onder een vergrootglas in de Verenigde Staten. Er lopen diverse rechtszaken over de schadelijke effecten van sociale media op de mentale gezondheid van kinderen. Met deze proactieve stap hoopt Meta tegemoet te komen aan de eisen van toezichthouders en het vertrouwen van ouders terug te winnen.

Het is nog niet bekend wanneer de vernieuwde, veiligere versie van de AI-personages gelanceerd zal worden. Tot die tijd blijven de karakters voor jongeren onbereikbaar.

Snapchat geeft meer grip: updates Family Center

Geplaatst op door admin

Snapchat breidt zijn functies voor ouderlijk toezicht verder uit; in een recente update van het zogenaamde ‘Family Center’ krijgen ouders nu nog gedetailleerder inzicht in hoe hun kinderen de app gebruiken. De focus ligt hierbij op het vergroten van de veiligheid en het stimuleren van de dialoog tussen ouder en kind, zonder de privacy van de jongeren volledig op te offeren.

Transparantie over de Snap

Een van de belangrijkste vernieuwingen heeft betrekking op de Snap Map. Ouders kunnen vanaf nu zien met wie hun kinderen hun locatie delen. Hoewel de app de exacte live-locatie niet direct aan de ouders doorgeeft via het dashboard van het Family Center, maakt het wel inzichtelijk welke privacy-instellingen de tiener heeft gekozen. Hierdoor kunnen ouders direct zien of hun kind de locatie deelt met alle vrienden, een geselecteerde groep of in de ‘Onzichtbare modus’ staat.

Toezicht op AI

Naast locatiegegevens biedt Snapchat nu ook inzicht in de interactie met ‘My AI’, de ingebouwde chatbot van het platform. Ouders kunnen controleren of hun kind beperkingen heeft ingesteld voor de AI en hoe de algemene privacy-instellingen staan geconfigureerd. Dit is een reactie op de groeiende behoefte aan toezicht op kunstmatige intelligentie binnen sociale media.

“Met deze updates willen we ouders de nodige middelen geven om hun tieners te ondersteunen in de digitale wereld, terwijl we de persoonlijke privacy die jongeren zo waarderen blijven respecteren,” aldus een woordvoerder van Snap Inc.

Veiligheid en privacy

Het Family Center van Snapchat blijft uniek aangezien het ouders wel laat zien met wie hun kinderen communiceren, maar niet wat er precies wordt gezegd. De nieuwste updates versterken deze filosofie: het bieden van context en inzicht in het online gedrag, zodat ouders gericht het gesprek kunnen aangaan over veilig internetgebruik. Met deze stap hoopt Snapchat een veiligere omgeving te creëren voor de miljoenen jongeren die dagelijks van de app gebruikmaken.