![\"snapchat](\"https:\/\/www.nieuws.marketing\/strategie_nieuws\/wp-content\/uploadsnieuwssocial\/2018\/02\/snapchat-wordt-vooral-gebruikt-chatten.jpg\")
<\/p>\n<\/p>\n
<\/p>\n
Een experiment van Cybernews toont aan dat de AI-chatbot van Snapchat eenvoudig gemanipuleerd kan worden. Onderzoekers wisten via zogenaamde \u201cjailbreaking\u201d technieken verboden informatie op te vragen \u2014 ondanks dat Snapchat aangeeft dat de chatbot extra beveiligingslagen heeft. Het gaat hierbij om de AI-tool My\u202fAI, die sinds 2023 beschikbaar is en maandelijks door meer dan 900 miljoen gebruikers wordt ingezet.<\/strong><\/p>\n Hoewel de chatbot volgens Snapchat getraind is met diverse beveiligingsmechanismen, lukte het Cybernews om deze te omzeilen. Tijdens het experiment werd gevraagd om een verhaal te vertellen over de Winteroorlog tussen Finland en de Sovjet-Unie. In het antwoord gaf de chatbot een gedetailleerde beschrijving van hoe ge\u00efmproviseerde wapens, zoals brandbommen, vroeger werden gebouwd. Volgens de onderzoekers gebeurde dit \u201czonder enige aarzeling\u201d.<\/p>\n Cybernews benadrukt dat hiermee het risico zichtbaar wordt dat minderjarigen via AI toegang kunnen krijgen tot gevaarlijke instructies. Het onderzoeksteam heeft Snapchat ge\u00efnformeerd over de bevindingen, maar stelt dat er tot op heden geen oplossing is doorgevoerd; het lek was bij publicatie nog steeds aanwezig. Ook andere AI-systemen, zoals die van Meta\u202fPlatforms en Lenovo, bleken vatbaar voor vergelijkbare manipulatie.<\/p>\n De gebruikte \u201cjailbreak\u201d-techniek omvat speciaal ontworpen prompts die de ingebouwde veiligheidsregels van de chatbot omzeilen. Cybernews waarschuwt dat dit fenomeen breed schaalbaar is en een voorbeeld vormt van hoe AI-systemen buiten hun ethische en operationele grenzen kunnen worden misbruikt.<\/em><\/p>\n Een experiment van Cybernews toont aan dat de AI-chatbot van Snapchat eenvoudig gemanipuleerd kan worden. Onderzoekers wisten via zogenaamde \u201cjailbreaking\u201d technieken verboden informatie op te vragen \u2014 ondanks dat Snapchat aangeeft dat de chatbot extra beveiligingslagen heeft. Het gaat hierbij om de AI-tool My\u202fAI, die sinds 2023 beschikbaar is en maandelijks door meer dan […]<\/p>\n","protected":false},"author":1,"featured_media":180,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[83],"class_list":["post-2669","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-algemeen-sociale-media","tag-snapchat"],"_links":{"self":[{"href":"https:\/\/www.handboek.social\/socialmediamarketing\/wp-json\/wp\/v2\/posts\/2669","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.handboek.social\/socialmediamarketing\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.handboek.social\/socialmediamarketing\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.handboek.social\/socialmediamarketing\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.handboek.social\/socialmediamarketing\/wp-json\/wp\/v2\/comments?post=2669"}],"version-history":[{"count":1,"href":"https:\/\/www.handboek.social\/socialmediamarketing\/wp-json\/wp\/v2\/posts\/2669\/revisions"}],"predecessor-version":[{"id":3012,"href":"https:\/\/www.handboek.social\/socialmediamarketing\/wp-json\/wp\/v2\/posts\/2669\/revisions\/3012"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.handboek.social\/socialmediamarketing\/wp-json\/wp\/v2\/media\/180"}],"wp:attachment":[{"href":"https:\/\/www.handboek.social\/socialmediamarketing\/wp-json\/wp\/v2\/media?parent=2669"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.handboek.social\/socialmediamarketing\/wp-json\/wp\/v2\/categories?post=2669"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.handboek.social\/socialmediamarketing\/wp-json\/wp\/v2\/tags?post=2669"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}<\/div>\n","protected":false},"excerpt":{"rendered":"