Bli säker-podden

Hugging Face har utkristalliserats som ai-världens motsvarighet till Github. Webbtjänsten har blivit den naturliga samlingsplatsen för öppna ai-modeller. Torsdagen 16 juli meddelade Hugging Face att de hade drabbats av ett intrång. De skrev att intrånget skilde sig från alla tidigare cyberattacker som de hade varit med om. Den här gången kom attacken från en okänd och till synes helt autonom ai-agent.

En vecka tidigare riktades världens ögon mot Open AI:s senaste ai-modell GPT 5.6 Sol. Utifrån en snillrikt skriven prompt, och ett förbud mot att ge upp, hade modellen lyckats bevisa ett av matematikens olösta problem. En säkerhetsforskare vid Searchlight Cyber inspirerades av framgången och skrev en liknande prompt. Han bad GPT 5.6 Sol att hitta sårbarheter i det populära publiceringsverktyget Wordpress.

Fredagen 17 juli rullade Wordpress ut en akutuppdatering. Den envisa GPT 5.6 Sol-modellen hade lyckats med uppgiften. GPT 5.6 Sol hade hittat en kritisk sårbarhetskedja som gav angripare administratörsrättigheter på valfri Wordpress-webbplats.

Tidigare samma vecka utvärderade Open AI cybersäkerhetsförmågorna hos både GPT 5.6 Sol och en kommande modell. Open AI utvärderade modellerna i ett isolerat nätverk utan åtkomst till internet. Det var i alla fall tanken. GPT-modellerna insåg att det bästa sättet att prestera väl på utvärderingarna var att hacka sig ut ur det isolerade nätverket och attackera servrarna där de rätta lösningarna förväntades finnas: servrarna hos Hugging Face.

Det var Open AI som hackade Hugging Face.

I veckans poddavsnitt pratar Peter och Nikka om ai-modellen som rymde från labbet. De pratar också om tre nyheter som berör elektronikjätten LG. På kort tid har det avslöjats hur LG har installerat adware på Windows-datorer och tillåtit apputvecklare att utnyttja tv-ägares internetuppkopplingar.

Se fullständiga shownotes på https://go.nikkasystems.com/podd361.

Vad är egentligen poängen med en captcha-ruta? Varför måste webbplatsen veta att besökaren är en människa? De är två frågor som internetjätten Cloudflare började fundera över tillsammans med tre av de stora webbläsartillverkarna.

Captcha-rutor ska framför allt skydda mot automatiserade attacker. Vem eller vad som gör besöken är i själva verket ganska ointressant. Det avgörande är huruvida besöken kommer från webbläsare som beter sig bra.

Den kommande tekniken Pact (Private Access Control Tokens) ska minska behovet av captcha-rutor. Webbläsare ska i stället kunna använda anonyma tokens för att uppvisa en historik av gott uppförande. Tekniken bygger på att så kallade ankarwebbplatser utfärdar anonyma ”endorsement tokens” till betrodda användare, till exempel användare som har registrerat ett telefonnummer eller haft ett konto i många år.

Tjänsterna som skyddar världens webbplatser kallas moderatorer och väljer vilka ankarwebbplatsers tokens som de litar på. En besökare som har tokens från någon av de betrodda ankarwebbplatserna kan anonymt växla en sådan token mot moderatorns egen pålitlighetsvaluta, vilken i sin tur gör att besökaren slipper klicka på captcha-rutor på webbplatserna som skyddas av den aktuella moderatorn.

I veckans poddavsnitt går Peter och Nikka igenom hur Pact fungerar. Med Cloudflare, Google, Microsoft och Mozilla i ryggen bedömer Nikka att tekniken har goda chanser att slå igenom.

Podduon pratar också om webbhistorik som läcker till Microsoft, Bitwardens kommande uppfräschning samt en ai-slaskfunktion som Meta hann både lansera och avveckla på mindre än en vecka.

Se fullständiga shownotes på https://go.nikkasystems.com/podd360.

Så kallade captcha-rutor ska skilja människor från botar. Webbplatser ber besökarna att klicka på rätt bilder eller att tyda förvridna bokstäver. Sådana captcha-rutor har fungerat någorlunda acceptabelt under flera år, men dagens ai-modeller gör dem mindre effektiva. Förr eller senare kommer botarna att bli bättre än människorna på att lösa klassiska captcha-utmaningar.

Google börjar nu att testa två nya captcha-metoder. Den ena metoden ber besökaren att skanna en qr-kod med sin mobil. Tyvärr förutsätter det att besökaren har en Android-mobil med Google Play eller en Iphone med Recaptcha-appen. Lösningen fungerar inte på helt Google-fria mobiler, såsom Graphene OS-mobilerna.

Den andra nya metoden ber besökaren att slå på sin kamera och utföra en handgest. Genom att analysera handens leder tror sig Google kunna bedöma om användaren utför den riktiga gesten och därmed är en människa. Frågan är hur lämplig metoden är om den vänjer allmänheten vid att slå på sina webbkameror i tid och otid.

I veckans poddavsnitt pratar Peter och Nikka om Googles nya captcha-metoder. Utöver de redan nämnda problemen oroar sig Nikka för riskerna som uppstår när det finns för många olika captcha-metoder. Om besökare vänjer sig vid att behöva verifiera sin mänsklighet på alla möjliga sätt spelar det angriparna rakt i händerna. Det blir lättare att övertyga användare att följa de så kallade clickfix-uppmaningarna som lurar användare att infektera sina datorer.

Se fullständiga shownotes på https://go.nikkasystems.com/podd359.

Fram till 2018 innehöll Googles interna uppförandekod en simpel uppmaning: ”don’t be evil”. Även om riktlinjen togs bort tycktes den leva kvar under de närmsta åren. 2019 publicerade Google ett blogginlägg om hur de ville bygga en mer privat webb. It-jätten tog ett tydligt ställningstagande mot annonsrelaterad spårning via webbläsarens fingeravtryck och skrev att sådan spårning ”subverts user choice and is wrong”. Året därpå meddelade Google att de dessutom skulle fasa ut tredjepartskakorna som än idag utnyttjas för spårning på webben.

Sedan hände något. I fjol meddelade Google att förbudet mot fingeravtrycksbaserad spårning skulle rivas upp. Samma sak gällde planerna på att blockera tredjepartskakor i Chrome. Förra månaden meddelade Google att de även kommer att tillåta annonsrelaterad spårning av användare via IP-adresser, något de tidigare sagt att enbart fick göras för att bekämpa missbruk och bedrägerier. Spårning som tidigare var oetisk ska nu alltså bli tillåten.

I slutet av förra månaden avslöjade Noyb att Google dessutom har lobbat mot ett lagförslag i EU:s kommande Omnibus-paket. Google kritiserade förslagets artikel om att ersätta cookie-banners (samtyckesrutor) med webbläsarinbyggda inställningar. Tanken med EU:s förslag var att låta användare lämna sitt samtycke på ett centralt ställe, i stället för att behöva göra det på varenda webbplats. Google ogillade förslaget och hävdade att det skulle leda till att färre användare gav sitt samtycke till spårning.

I veckans poddavsnitt pratar Peter och Nikka om Googles förändringar. Podduon diskuterar om Google rent av har ersatt sitt gamla motto ”don’t be evil” med den kortare versionen ”be evil”. Om Google vill behålla cookie-banners för att användare annars slutar lämna sitt samtycke borde det vara ett tydligt tecken på att dagens cookie-banners är så kallade ”dark patterns”. Vilken av de två mottoversionerna passar då bäst för ett företag som vill lura användare att göra något mot sin vilja?

Se fullständiga shownotes på https://go.nikkasystems.com/podd358.

Frågan om digital suveränitet debatterades flitigt under årets upplaga av politikerveckan i Almedalen. Sveriges offentliga verksamhet är kraftigt beroende av utomeuropeiska tjänsteleverantörer. Det är riskfyllt i en föränderlig värld med geopolitiska spänningar.

Veckans avsnitt av Bli säker-podden är ett specialavsnitt som gästas av Daniel Melin från statliga Teracom. Han arbetar med affärsutveckling av digitala tjänster som ska fungera även vid kris och krig. Melin förklarar varför suveränitetsfrågan har blivit högaktuell och ger förslag på hur offentlig verksamhet kan minska sina beroenden av bland annat amerikanska molntjänster.

Se fullständiga shownotes på https://go.nikkasystems.com/podd357.