En AI till Kaffet

Hur säker är en AI om den själv kan hitta vägen ut ur det som ska hålla den instängd?
Marcus och Charlotte är tillbaka efter sommaren och tar sig an en incident som gör frågan om AI-säkerhet betydligt mindre teoretisk. Ett av OpenAI:s system lyckades ta sig ur en skyddad sandbox under ett cybersäkerhetstest, hitta en tidigare okänd sårbarhet och därefter göra intrång hos Hugging Face och andra system. Målet var enkelt: prestera bättre på testet. Vägen dit blev något helt annat än utvecklarna hade tänkt sig.
Incidenten väcker frågor om alignment, kontroll och vad som sker när allt mer kapabla modeller hittar genvägar som ingen uttryckligen har bett dem att ta. Samtidigt lämnar tunga namn Google DeepMind, AI-labben efterlyser gemensamma säkerhetsregler och kinesiska open weight modeller som Kimi K3 pressar både priser och maktbalansen mellan USA, Kina och Europa.
Kan vi bygga AI som är tillräckligt kraftfull för att hitta helt nya lösningar, men fortfarande håller sig inom våra gränser? Hur testar man en modell som försöker fuska på själva testet? Och kan världens konkurrerande AI-labb bromsa tillsammans om ingen vill vara den som bromsar först?
Dessutom blickar Marcus och Charlotte fram mot avsnitt 100 med José González, den internationellt hyllade svenska artisten och låtskrivaren. Han har fördjupat sig i AI, framtidsfrågor och effektiv altruism, ämnen som också satt avtryck i hans musik och tankar om vart samhället är på väg.
Följ oss på Spotify och lyssna på senaste avsnittet här:
https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI
#ai #podcast #enaitillkaffet #openai #huggingface #aisäkerhet #alignment #cybersäkerhet #chatgpt #deepmind #kimi #opensource #agi #kina #teknik

Hjärnan har flera inbyggda svagheter. I sin nya bok kallar Anders Hansen dem för hjärnans akilleshälar. Hur kan AI utnyttja dem, och hur skyddar vi oss?
Marcus träffar Anders Hansen, läkare, psykiater och författare till boken Hjärnans Akilleshälar. Han undersöker hur AI kan förstärka hjärnans behov av bekräftelse, berättelser och grupptillhörighet, men också bidra till medicinska framsteg, lärande och social träning.
AI kan redan anpassa argument, relationer och innehåll efter varje användare. Tekniken kan väcka rädsla, få falska berättelser att kännas trovärdiga och påverka politiska åsikter. Samtidigt kan den upptäcka sjukdomar, utveckla läkemedel och hjälpa människor att förstå komplex information.
Kan ständig bekräftelse förändra vår förmåga att hantera motstånd? Hur skyddar vi en gemensam verklighetsuppfattning från deepfakes och fabricerade fakta? Och kan AI användas på hjärnans villkor, innan tekniken lär sig att styra våra val?
Följ oss på Spotify och lyssna på senaste avsnittet här:
https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI
#ai #podcast #enaitillkaffet #andershansen #hjärnan #psykologi #deepfakes #chatgpt #claude #artificiellintelligens #socialamedier

Kan AI verkligen kallas intelligent när den behöver enorma datacenter för det hjärnan klarar med 100 watt?
Marcus träffar Patrick Couch, initiativtagare till Stockholm MLOps, tidigare talesperson för AI på IBM Sverige och en profil inom AI, infrastruktur och europeisk teknikutveckling. Han ser stora möjligheter med AI, men riktar kritik mot jakten på större modeller, fler GPU och löften om AGI.
Dagens AI kräver chip, el, kylning och tillgång till datacenter. Bakom språkmodellerna finns en fysisk industri som påverkar energipriser, geopolitik och Europas självbestämmande. Samtidigt visar öppna modeller från Kina att mer beräkningskraft långt ifrån är den enda vägen framåt.
Hur mycket el ska AI få använda? Kan Europa minska beroendet av amerikanska molntjänster och taiwanesiska chip? Och behövs helt nya tekniska principer innan AI kan närma sig hjärnans kapacitet och energieffektivitet?
Följ oss på Spotify och lyssna på senaste avsnittet här:
https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI
#ai #podcast #enaitillkaffet #agi #artificiellintelligens #energi #datacenter #halvledare #digitalsuveränitet #mlops #deepseek #chatgpt

Kan det vara farligt för någon med vanföreställningar eller som befinner sig i en pågående psykos att prata med AI?
Marcus träffar Sten Friberg, överläkare och psykiater med erfarenhet från psykiatrisk vård. Tillsammans diskuterar de hur AI kan användas i diagnostik, journalföring och behandling, men också hur tekniken kan påverka människor med psykos, paranoia och schizofreni.
ChatGPT svarar på användarnas frågor, följer tankegångar och anpassar tonen efter samtalet. För en person vars verklighetsprövning sviktar kan svaren få följder. Bekräftelse kan ge stöd, men också stärka en föreställning som leder personen längre från omvärlden.
Kan en AI upptäcka att en användare befinner sig i psykos? Hur bör den svara på paranoia och vanföreställningar? Vem har ansvar när en chatbot blir rådgivare, vän eller en del av sjukdomsbilden? Och hur påverkas synen på mänskliga relationer när AI börjar fylla samma funktioner?
Följ oss på Spotify och lyssna på senaste avsnittet här:
https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI
#ai #podcast #enaitillkaffet #psykos #schizofreni #psykiatri #hallucinationer #chatgpt #paranoia #psykologi #teknik
00:00 - Inledning
01:08 - Kan AI få en psykiatrisk diagnos?
08:26 - Så används AI i sjukvården
16:51 - Var går gränsen för AI i psykiatrin?
21:28 - Kan AI förvärra en psykos?
24:39 - Vem bär ansvaret när AI ger råd?
27:44 - Blir AI en hjärnprotes?
31:16 - Perukdockseffekten & plastankan
32:28 - Hur förändrar AI våra relationer?
36:16 - Kan ChatGPT ställa diagnoser?
39:04 - AI-dilemmat: AI-partners ersätter människor
48:31 - Stens mamma är Malin i Saltkråkan
50:49 - Vilka mänskliga förmågor måste vi bevara?
54:10 - Vad är meningsfull AI?
56:55 - Tack & adjö

Kan Sverige bygga AI på egna villkor?
Marcus träffar Thor Wikfeldt, Deputy Director för Mimer AI Factory, och Salla Franzén, VD för AI 4S och verksam inom svensk AI-forskning. De ser AI som en fråga om infrastruktur, kompetens och kontroll, där tillgången till beräkningskraft kan avgöra vilka länder som får skapa nästa generations teknik.
AI kräver mer än modeller och promptar. Bakom varje genombrott finns datacenter, GPU:er, forskare, ingenjörer och el. Med Mimer får Sverige en AI-fabrik som ska ge företag, forskare och offentlig sektor tillgång till den kapacitet som krävs för att träna, testa och utveckla AI på svensk och europeisk mark.
Hur kan Sverige minska beroendet av amerikanska molnbolag? Varför har GPU:er blivit en maktfråga? Och kan Europas AI-satsningar ge startups, industri och forskning en chans att konkurrera med USA och Kina?
Följ oss på Spotify och lyssna på senaste avsnittet här:
https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI