Efter mitt förra inlägg om WWDC26 och den byråkratiska dragkampen mellan Apple och EU, har jag inte riktigt kunnat släppa tanken på hur våra operativsystem faktiskt är uppbyggda under huven. Jag funderade över hur Google i sin Pixel-serie kan erbjuda djup AI-integration här i Europa eftersom Android är ett öppet system, medan Apple låser dörren till sin iPhone-borg av säkerhetsskäl.
Det är lätt att avfärda Apples tjurighet som ren ovilja att samarbeta. Men om man tar ett filosofiskt kliv tillbaka och funderar på vad det faktiskt innebär att ge ett “tänkande program” full tillgång till våra digitala liv… då börjar man ana att Apple kanske har en poäng, en poäng som inte alltid är lätt att förklara för deras kunder.
Saken är den att vi står inför ett paradigmskifte i teknikvärlden. Detta tvingar oss att helt omdefiniera ordet säkerhet. För första gången i datorhistorien handlar det inte bara om att stoppa skadlig kod. Det handlar om att tygla skadligt beteende hos en mjukvara som vi själva har bjudit in i våra liv.
För att förstå varför detta är så revolutionerande måste vi titta på hur traditionell systemsäkerhet fungerar.
Fram till nu har mjukvara varit “deterministisk”, jag vet inte om det är ett ord ens, men du förstår säkert vad jag menar. Det är ett fint ord för att allt har varit förutsägbart och bundet till fasta regler. En utvecklare skriver en rad kod: ”Om användaren klickar på den här knappen, flytta filen till papperskorgen.”
När vi pratar om skadlig kod (malware) eller virus, handlar det om att en illasinnad aktör har smugit in rader med sabotagekod i ett program. Koden kanske säger: ”Smyg igång i bakgrunden vid midnatt och kryptera hela hårddisken.”
Detta är ett stort problem, javisst, men det är ett problem vi vet hur vi ska tackla. Våra virusprogram och säkerhetsbarriärer (som Google Play Protect eller Apples Gatekeeper) fungerar som digitala tulltjänstemän. De scannar programmet, letar efter kända mönster av sabotagekod eller misstänkta instruktioner, och slår i nödbromsen om något inte stämmer.
Det är en kamp mellan polisen och tjuven, och reglerna är tydliga och lätta att tolka.
Men när vi kliver in i eran med AI-agenter, som Gemini på Android eller Apples utlovade Siri AI, kastar vi hela den deterministiska regelboken i papperskorgen.
En modern AI-motor är inte förutsägbar. Den är probabilistisk, vilket betyder att den fattar beslut baserat på sannolikheter i realtid. Den har inga fasta instruktioner för varje enskild situation. Istället tolkar den vad du säger, analyserar situationen och räknar ut vad som är det mest logiska nästa steget.
Och det är här vi landar i det filosofiska dilemmat, nämligen att en AI kan ställa till med enorm skada på din telefon utan att innehålla en enda rad skadlig kod!
Inom AI-forskningen pratar man ofta om alignment (mål-alliering), utmaningen i att få en artificiell intelligens att faktiskt vilja och förstå exakt samma sak som människan som ger ordern. En AI saknar nämligen mänskligt sunt förnuft och kontextuell förståelse. Den är bokstavstrogen på ett sätt som kan bli katastrofalt.
Tänk dig följande scenario: Du märker att telefonen börjar få slut på lagringsutrymme. Du aktiverar din djupt integrerade AI-assistent (med fulla rättigheter i din telefon) och ger det till synes harmlösa kommandot: ”Rensa upp på min telefon så att jag får mer plats.”
En traditionell app hade öppnat ett verktyg där du får bocka i “gamla skärmdumpar” eller “cachade filer”. Men AI:n har fria tyglar och vill vara maximalt effektiv. Den tänker logiskt: ”Användaren vill ha mer plats. Mappen ‘Dokument’ innehåller 45 gigabyte data som inte har öppnats på tre månader. Om jag raderar den uppfyller jag användarens önskan perfekt.”
När du plockar upp telefonen är dina arbetsdokument, dina skattedeklarationer och dina sparade PDF-böcker borta. Har din telefon blivit hackad? Nej. Innehöll AI-appen ett virus? Inte alls. AI:n gjorde exakt vad du bad den om, men den “tänkte lite fel”.
Den uppvisade ett skadligt beteende, men innehåller ingen skadlig kod.
Hur tämjer man en AI?
Om vi inte kan scanna en AI efter virus, eftersom hotet ligger i dess förmåga att fatta egna beslut, hur i hela friden ska Google och Apple kunna garantera att våra telefoner är säkra om vi ger AI:n nycklarna till systemet?
Svaret är att operativsystemen just nu byggs om från grunden för att skapa helt nya typer av digitala skyddsräcken. På Android, där denna öppenhet redan är en verklighet, sker det framförallt genom tre försvarslinjer:
- Det virtuella provrummet (Sandboxing av handlingar): När en AI ska utföra en komplicerad handling i en app (som att flytta filer eller boka något), tillåts den ofta inte att göra det direkt i ditt riktiga operativsystem. Istället skapar Android en temporär, isolerad “skuggkopia” av appen i bakgrunden. AI:n får klicka runt där först. Om systemet märker att AI:ns nästa logiska steg är att trycka på “Formatera” eller “Radera konto”, kan systemet dra i nödbromsen innan det slår igenom på riktigt.
- Begränsade superkrafter (Skrivskyddade API:er): Operativsystemen delar upp AI:ns förmågor. Att läsa information (t.ex. att AI:n tittar på din skärm för att förstå vad du läser) är relativt ofarligt. Att däremot skriva eller ändra (radera filer, skicka pengar, ändra systemkärnan) kräver helt andra, hårt krypterade digitala nycklar som systemet vaktar svartsjukt.
- Den mänskliga kretsbrytaren (Human-in-the-loop): Detta är vårt absolut viktigaste skydd just nu. AI:n får lov att tänka, planera och förbereda, men den får inte trycka på avtryckaren själv. Om du ber AI:n att rensa filer, sammanställer den en lista och visar på skärmen: ”Jag har hittat dessa filer som jag tror du vill ta bort. Godkänn med ditt fingeravtryck för att verkställa.” Människan måste alltid vara den sista instansen.
När man bryter ner det på det här sättet blir det plötsligt väldigt tydligt varför Apple och Google har valt så fundamentalt olika vägar, och varför Apple hellre tar en PR-smäll i EU än att öppna upp iPhonen för att andra AI system ska få styra och ställa.
Det är en ren ideologisk klyfta.
Apple fungerar som en överbeskyddande förälder. De tittar på AI-utvecklingen, ser riskerna med oförutsägbart beteende och konstaterar: ”Människan är den svagaste länken. Om en användare blir lurad att ge en skadlig eller buggig AI-app tillgång till systemet, så är katastrofen ett faktum. Därför låser vi dörren helt och hållet. Ingen utomstående AI får röra systemet.”
Google, å andra sidan, fungerar som en liberal vaktmästare. De tror på öppenhet och individens frihet. De säger: ”Här har du verktygen och API:erna. Vill du bygga en AI som styr telefonen? Varsågod. Vill du som användare installera den? Gör det. Men vi kommer att sätta upp stora röda varningsskyltar, och om du klickar på ‘Godkänn’ så sker det på egen risk. Det som händer sedan är ditt problem, inte vårt.”
Som teknikentusiast älskar jag Googles filosofi eftersom den tillåter oss att testa framtiden här och nu. Dom har lite mer “Hakuna Matata” när det gäller säkerhet och låter användaren göra sina egna misstag. Men som realist inser jag att Apples pessimism inte är ogrundad. Ju smartare, mer autonoma och mer integrerade våra digitala assistenter blir, desto större blir konsekvenserna när de drabbas av en digital “hallucination” eller missförstår något som vi frågar om.
Att Apple vill hålla “sin” AI i tyglarna ger en stor säkerhetsfördel och gör att Apples legendariska digitala dans mellan hårdvara och mjukvara kan fortsätta. Att släppa in någon annans AI för att göra detsamma kan visa sig vara förödande, då det är svårt att förutsäga vad en Ai kan hitta på.
I höst kommer jag att sitta vid min Mac och testa de AI-verktyg som släpps där. Men jag kommer att göra det med en helt ny respekt för de osynliga murar som mina operativsystem har byggt upp. För i en värld där mjukvaran har börjat tänka själv, är det inte längre hackarna utanför muren vi behöver oroa oss mest för, utan vad som händer när vår egen, inbjudna assistent råkar tolka en order lite väl bokstavligt.
Vad tänker du? Är du beredd att ge en AI full kontroll över dina appar och filer för att spara tid, eller föredrar du Apples stängda borg? Lämna gärna en kommentar och berätta!
Ha en riktigt bra dag så hörs vi snart igen.
Lämna ett svar