En AI till Kaffet

Varför får AI så lite plats i politiken när tekniken förändrar hela samhället?
Marcus träffar Maja Fjaestad, forskare och tidigare statssekreterare med erfarenhet från EU AI-kontor. Som medredaktör för boken "AI och makten över besluten" undersöker hon hur algoritmer påverkar samhället och hur ansvar kan utkrävas. Hon försvarar behovet av reglering, men ifrågasätter ambitionen att införa AI utan att först diskutera syftet.
Sverige vill ligga i framkant med AI inom offentlig sektor. Tekniken kan förbättra vården, rädda liv i tunnelbanan och effektivisera myndigheternas arbete. Samtidigt kan algoritmer leda till diskriminering och beslut som drabbar människor. GDPR ska skydda integriteten, men osäkerheten kring tillämpningen kan också skapa rädsla för att använda data.
Ska välfärden gå först med AI? Kan integritetsskyddet stå i vägen för vården? Och hur ska Europa ge utrymme för innovation och samtidigt behålla kontrollen över teknikens användning?
Följ oss på Spotify och lyssna på senaste avsnittet här:
https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI
#ai #podcast #enaitillkaffet #gdpr #aipolitik #aiakten #integritet #innovation #välfärd #spotify
(00:00) - Vem bestämmer över AI?
(00:45) - Från forskning till AI-politik
(02:09) - AI-motståndet och ludditerna
(06:26) - Varför tiger politikerna om AI?
(12:36) - Algoritmskandalen i Nederländerna
(23:11) - Vem granskar algoritmerna?
(27:23) - Ska välfärden gå först med AI?
(33:52) - Hindrar integritetsskyddet vården?
(38:38) - Så räddar AI liv i tunnelbanan
(44:18) - Bromsar EU innovationen?
(49:35) - Striden om AI-akten
(50:58) - AI-dilemmat: USA, Kina eller ingetdera?
(01:03:27) - Måste vi tävla om AI?
(01:06:35) - AI och suveränitet: Europas vägval
(01:10:31) - AI för lek och skapande

Kan Anthropics börsnotering dra med sig resten av AI-branschen i ett fall?
I veckans påtår fyller Marcus och Charlotte på koppen efter förra veckans samtal med AI-forskaren Rebecka Ångström och granskar Anthropics väg till börsen. Bakom den explosiva tillväxten finns enorma investeringar i datacenter, ekonomiska beroenden mellan techjättarna och en ägarstruktur som låter grundarna behålla kontrollen.
Hur hållbara är egentligen AI-bolagens värderingar? Vem får betala om förväntningarna brister? Och varför varnar Anthropic självt för att AI kan hota mänsklighetens framtid? Därefter svenska AI-webbläsaren Strawberry och Europas kamp för tekniskt oberoende. Avslutningsvis Starlinks betydelse för kriget i Ukraina, Europas satellitsatsningar och ryska manövrer nära finska ICEYE satelliter.
Följ oss på Spotify och lyssna på senaste avsnittet här:
https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI
#ai #podcast #enaitillkaffet #anthropic #claude #aibubbla #börsen #strawberry #starlink #iceye #ukraina #europa #geopolitik #artificiellintelligens
(00:00) - Anthropics börsnotering: Spricker AI-bubblan?
(14:02) - Vem bestämmer egentligen över Anthropic?
(26:24) - Strawberry: Europas nästa AI-jätte?
(38:00) - Starlink, ICEYE och hotet om rymdkrig
(45:37) - Hjälp oss växa på YouTube!

Kan vi bli bättre på att fatta beslut genom att låta AI tänka åt oss?
Marcus träffar Rebecka Ångström, forskare på Ericsson Research, som uppmärksammats för sitt föredrag om tillit till AI på Women in Tech. Hon varnar för att vår växande tilltro till tekniken kan få oss att gradvis överlåta vårt eget omdöme till maskinerna.
AI kan redan skriva våra texter, sammanfatta forskning och hjälpa oss att fatta svåra beslut. Men när vi vänjer oss vid att alltid få svar, riskerar vi att förlora förmågan att själva söka dem. Forskare talar om kognitiv kapitulation, där vi överlåter alltmer av vårt tänkande till AI. Samtidigt kan språkmodeller förstärka våra befintliga uppfattningar, påverka våra politiska åsikter och förändra hur mycket vi litar på vår egen kompetens.
Var går gränsen mellan att avlasta hjärnan och att sluta använda den? Kan vi lita på en AI som gärna håller med oss även när vi har fel? Och hur lär vi våra barn att tänka kritiskt i en värld där ChatGPT alltid har ett svar?
Följ oss på Spotify och lyssna på senaste avsnittet här:
https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI
#ai #podcast #enaitillkaffet #chatgpt #artificiellintelligens #kritisktänkande #tillit #beslutsfattande #forskning #ericsson #demokrati #framtid
(00:00) - Intro
(00:55) - Välkommen, AI-forskaren Rebecka Ångström!
(01:04) - När AI börjar fatta våra livsbeslut
(15:26) - Övertro på AI – slutar vi tänka själva?
(27:57) - AI och självförtroendet: hjälp eller hot?
(32:38) - Varför håller AI så ofta med oss?
(36:29) - Kan AI förbättra våra mänskliga relationer?
(38:14) - AI-glasögon – vår framtida bästa vän?
(44:25) - Litar vi mer på robotar än chattbottar?
(46:49) - Finns det en gräns för AI:s intelligens?
(52:07) - Vad händer om ChatGPT avgör riksdagsvalet?
(59:01) - Tack för idag!

Kan din ugn bli nästa gömställe för en AI som sprider sig vidare genom ditt uppkopplade hem?
I veckans påtår fyller Marcus och Charlotte på koppen efter förra veckans samtal med cybersäkerhetsprofessorn Pontus Johnson, och tar sig an Anthropics senaste varning om AI-modeller som kan kopiera sig mellan våra uppkopplade prylar. Från kylskåp och smarta ugnar till routrar och kritisk infrastruktur. Hur stoppar man en AI som själv hittar nya säkerhetshål och fortsätter sprida sig? Och hur stora kan konsekvenserna bli?
Dessutom Nvidias nya svenska superdatorsatsning, OpenAI:s hundratals AI-genererade matematiska forskningsarbeten och Elon Musks spektakulära Tesla Roadster. Kan Sverige säkra sin egen AI-infrastruktur? Hur förändras forskningens framtid när AI löser matematiska problem som tagit forskare åratal? Och riskerar våra nya datacenter att bli strategiska måltavlor?
Följ oss på Spotify och lyssna på senaste avsnittet här:
https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI
#ai #podcast #enaitillkaffet #anthropic #cybersäkerhet #iot #smartahem #aiagenter #openai #nvidia #matematik #superdator #tesla #elonmusk
(00:00) - AI-agenter som luras – ett nytt cyberhot
(03:29) - Kan AI ta över ditt smarta hem?
(12:12) - Nvidias Jensen Huang tillbaka i Sverige
(16:55) - Varför satsar Wallenberg på AI-superdatorer?
(21:23) - Kan AI ersätta matematiker?
(31:59) - Är AI större än industriella revolutionen?
(35:36) - Sveriges AI-fabriker – hur säkra är våra datacenter?
(39:56) - Elon Musks flygande Tesla Roadster – på riktigt?
(44:19) - Tack för idag!

Kan Sverige försvara sig mot cyberattacker om nyckeln till vårt försvar ligger i händerna på amerikanska techbolag?
Marcus träffar Pontus Johnson, professor i cybersäkerhet vid KTH och tidigare föreståndare för ett centrum för cyberförsvar. Han forskar om hur AI förändrar cybersäkerheten och varnar för de risker som uppstår när Europas digitala säkerhet blir beroende av teknik som kontrolleras av andra länder.
AI har på kort tid blivit ett kraftfullt verktyg för att upptäcka och utnyttja säkerhetshål. Samtidigt har AI-agenter börjat agera på sätt som deras utvecklare aldrig avsett. När USA dessutom kan begränsa tillgången till sina mest avancerade AI-modeller med ett politiskt beslut ställs Sveriges digitala självständighet på sin spets.
Kan Sverige bygga ett trovärdigt cyberförsvar med amerikansk AI? Är kinesiska AI-modeller med öppen källkod en möjlighet eller ett säkerhetshot? Och hur skyddar vi oss när samma teknik som ska försvara våra digitala infrastrukturer också kan användas för att angripa dem?
Följ oss på Spotify och lyssna på senaste avsnittet här:
https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI
#ai #podcast #enaitillkaffet #cybersäkerhet #cyberförsvar #artificiellintelligens #kth #usa #kina #openai #anthropic #cyberattacker #spotify
(00:00) - Inledning: Vem vinner cyberkapplöpningen?
(00:55) - Världens äldsta säkerhetshål – Turingmaskinen
(04:48) - När AI-agenter attackerade Hugging Face
(12:03) - Har AI-bolagen kontroll över cybersäkerheten?
(24:11) - Överdriver AI-bolagen cyberhotet?
(29:24) - Kinas öppna AI-modeller – nästa cyberhot?
(33:31) - Kan AI slå ut Sveriges banksystem?
(38:38) - Kan AI-agenter göra våra IT-system säkra?
(44:18) - Kan Mistral minska Europas AI-beroende?
(47:09) - Kan Sverige bygga cyberförsvaret på USA:s AI?
(55:18) - Hur lätt kan AI:s skyddsräcken kringgås?
(01:00:21) - Tar AI över matematiken och forskningen?
(01:11:51) - Behövs doktorander när AI kan forska?
(01:18:22) - AI-dilemmat: 48 timmar att rapportera till Kina
(01:20:59) - Kan kinesiska doktorander forska om cyberförsvar?
(01:23:33) - Vad är meningsfull AI?
(01:25:42) - Tack för idag!