Publisher

Även cyberkriminella använder AI för effektivisering

Cyberbrottslingar börjar använda artificiell intelligens för att göra sin verksamhet mer effektiv, och deras användning går långt utöver att skapa bättre bete för nätfiske.

Precis som i legitima verksamheter har diskussionerna om AI bland brottslingar accelererat i år jämfört med 2023, rapporterar forskare från cybersäkerhetsgruppen Intel 471 i en ny studie.

Hotaktörer följer noga med, och de experimenterar, säger forskarna. Vissa hotaktörer hävdar att de använder AI för aktiviteter som att skapa deepfake-videor, besegra ansiktsigenkänning och sammanfatta data som stulits i dataintrång. Andra bygger in AI i sina hackningsverktyg eller skapar skadliga chattbotar.

I studien sägs dock: ”Den kanske mest observerade påverkan som AI har haft på cyberbrottslighet har varit en ökning av bedrägerier, särskilt de som utnyttjar deepfake-teknik.”

Några av dessa bedrägerier har kostat liv, säger studien. Till exempel använder en grupp cyberbrottslingar som kallas Yahoo Boys, främst baserade i Nigeria, deepfakes i romantik- och sextortionsbedrägerier, och vinner offrens förtroende med falska personas. De övertalar ofta dessa offer att dela komprometterande foton, som de sedan hotar att offentliggöra om de inte får betalt. Intel 471 sa att många av de utsatta offren är minderåriga och i vissa fall har de begått självmord.

Deepfake-erbjudanden har ökat betydligt sedan januari 2023, enligt studien, och de har blivit billigare. En hotaktör hävdar att han genererar ljud- och video-deepfakes med hjälp av ett AI-verktyg för mellan 60 och 400 dollar per minut, beroende på komplexitet, ett fynd jämfört med 2023-priserna. Andra hotaktörer erbjuder bland annat en prenumerationstjänst som kostar 999 dollar per år för 300 ansiktsbyten per dag i bilder och videor.

Andra använder AI i bedrägerier med komprometterad e-post (BEC) och dokumentbedrägerier. En av dem ska enligt studien ha utvecklat ett verktyg som använder AI för att manipulera fakturor, avlyssna kommunikation mellan parter och ändra information som bankkontonummer för att omdirigera betalningar till bedragarna.

Produktivitetsvinster

”Verktyget för manipulering av fakturor påstås ha en rad olika funktioner, inklusive möjligheten att upptäcka och redigera alla PDF-dokument och byta ut internationella bankkontonummer (IBAN) och bankidentifieringskoder (BIC)”, heter det i studien. 

Verktyget erbjuds på prenumerationsbasis för 5 000 dollar per månad eller 15 000 dollar för livstids tillgång. Om det här verktyget fungerar som utlovat uppfyller detta ett ofta citerat användningsfall av AI för produktivitetsvinster, om än här i ett kriminellt sammanhang.

En annan brottsling hävdar att han använder Metas Llama-modell för att extrahera de mest känsliga uppgifterna från frukterna av ett dataintrång för att använda för att pressa offret att betala lösen.

Men, konstaterar Jeremy Kirk, analytiker på Intel 471, kanske inte alla påståenden om AI-användning är korrekta. 

– Vi använder ordet “påstås” för att visa att det är ett påstående som görs av en hotaktör och att det ofta är oklart exakt i vilken utsträckning AI har införlivats i en produkt, vilken LLM-modell som används och så vidare”, säger han. 

– När det gäller frågan om utvecklare av cyberbrottsverktyg hoppar på tåget för att uppnå kommersiella fördelar, verkar det finnas genuina försök att se hur AI kan hjälpa till i cyberbrottslig verksamhet. Underjordiska marknader är konkurrensutsatta och det finns ofta mer än en leverantör av en viss tjänst eller produkt. Det är till deras kommersiella fördel att deras produkt fungerar bättre än någon annans, och AI kan hjälpa till.

Intel 471 har observerat många påståenden som är tveksamma, inklusive ett av fyra datavetare från University of Illinois Urbana-Champaign (UIUC) som påstår sig ha använt Open AI:s GPT-4 LLM för att autonomt utnyttja sårbarheter i verkliga system genom att mata LLM med CVE-meddelanden (Common Vulnerabilities and Exposures) som beskriver brister. Intel 471 påpekar dock: ”Eftersom många av de viktigaste delarna av studien inte publicerades – till exempel agentkoden, uppmaningarna eller modellens resultat – kan den inte reproduceras exakt av andra forskare, vilket återigen inbjuder till skepsis.

Automatisering

Andra hotaktörer erbjöd verktyg som skrapar och sammanfattar CVE-data, och ett verktyg som integrerar vad Intel 471 kallar en välkänd AI-modell i ett multifunktionellt hackverktyg som påstås göra allt från att skanna nätverk och leta efter sårbarheter i innehållshanteringssystem till att koda skadliga skript.

Författarna till studien lyfter också fram några av de nya risker som uppstår i takt med att AI-användningen ökar, till exempel att rekommendationer från Googles nya AI-drivna sök  leder användare till skadliga webbplatser och sårbarheter i AI-applikationer. Dessutom observerades att nationalstater och andra skadliga aktörer använder LLM:er för flera olika typer av attacker. Studien citerar offentliga blogginlägg från Microsoft och Open AI som specifikt identifierade fem statssponsrade grupper, en vardera från Ryssland, Nordkorea och Iran, och två från Kina.

För att motverka detta, konstaterar studien, har myndigheter som US Federal Communications Commission, US Department of Homeland Security, den brittiska regeringen och andra inlett åtgärder för att övervaka och reglera AI för att säkerställa dess säkerhet och trygghet.

Det kommer bara att bli värre

Intel 471 drar slutsatsen att även om AI tidigare bara har spelat vad de kallar ”en liten stödjande roll” i cyberbrottslighet, så har teknikens roll vuxit. Företagets analytiker förväntar sig att deepfakes, phishing och BEC-aktiviteter kommer att öka, tillsammans med desinformationskampanjer som drivs av LLM:s förmåga att generera innehåll.

Och, tillägger företaget, ”säkerhetslandskapet kommer att förändras dramatiskt när en LLM kan hitta en sårbarhet, skriva och testa exploateringskoden och sedan autonomt utnyttja sårbarheter i naturen.”

– Maskininlärning och teknik som kallas AI har cirkulerat i säkerhetsbranschen under lång tid, från att bekämpa skräppost till att upptäcka skadlig kod, säger Kirk. 

– AI kan åtminstone bidra till snabbare attacker, men också till snabbare försvar. Det kommer att finnas tillfällen då angriparna tar överhanden och försvararna kommer ikapp, men det är inte helt olikt den situation vi befinner oss i nu.

– Hur cyberbrottslingar kan använda AI kommer också att bero på tillgången till LLM:er och AI-modeller med färre skyddsräcken och som tillåter uppmaningar om information eller kod som kan hjälpa till vid skadlig användning.

Även cyberkriminella använder AI för effektivisering Read More »

Nordiska beslutsfattare gillar generativ AI – men har inte förberett sig 

Samtidigt som många företag inte ännu implementerat generativ AI så planerar 84 procent att investera i det under 2024-2025.  26 procent av dem planerar att rulla ut generativ AI som inbyggd funktionalitet på företagsnivå. Det visar en undersökning bland 100 beslutsfattare inom strategi för generativ AI  och dataanalys i Norden som gjorts på uppdrag av SAS Institute. 

Totalt har fem procent implementerat generativ AI fullt ut på sina företag medan 40 procent har börjat prova på. 

Men samtidigt som många står i begrepp att investera i den nya tekniken är det få som känner att de förstår den. 87 procent uppger att de inte fullt ut förstå generativ AI eller hur teknikan kan komma att påverka affärsprocesserna. 

Bara tio procent har förberett sig  när det gäller att följa de regler som omgärdar generativ AI och 95 procent saknar ett ramverk för styrning. 

Det finns också en oro kring datasekretess, det uppger 75 procent och 77 procent pekar på säkerheten som ett problem. Färre än fyra procent har tränat sin organisation för att övervaka och styra generativ AI och 74 procent saknar funktionalitet för att kunna övervaka sin generativa AI kontinuerligt. 

Nordiska beslutsfattare gillar generativ AI – men har inte förberett sig  Read More »

Skatteverket får fatta fler automatiserade beslut

Den svenska regeringen har nu fattat beslut om en förordningsändring för att effektivisera Skatteverkets verksamhet. Ändringen innebär att Skatteverket ges förutsättningar att öka graden av automatisering i vissa beslutsprocesser genom att den maskinella hanteringen kan öka i handläggningen och effektiviseringen. Ändringen grundar sig i ett eget förslag från Skatteverket.

– Produktivitet är avgörande för den ekonomiska utvecklingen och en viktig del handlar om att öka produktiviteten hos våra myndigheter. Därför är det så bra att Skatteverket nu kommer kunna fatta automatiserade beslut i större utsträckning, säger finansminister Elisabeth Svantesson, i ett pressmeddelande.

– Digitaliseringen medför stor potential för att effektivisera såväl offentlig förvaltning som välfärd. Digitala verktyg kan, rätt använt, minska administrationen, ge ökad medborgarnytta och höja kvalitén, säger civilminister Erik Slottner, i samma pressmeddelande.

Förordningen träder i kraft den 1 augusti 2024.

Skatteverket får fatta fler automatiserade beslut Read More »

Apple släpper Final Cut Pro-uppdateringar för Ipad och Mac, ny Iphone-app

Apple släpper Final Cut Pro-uppdateringar för Ipad och Mac, ny Iphone-app Read More »

Så moderniserar Karolinska sin it-miljö – ”vi måste vara världsledande även på det”

I ett år har Malin Fahlén varit it-chef på Karolinska universitetssjukhuset. En stark kontrast till hennes tidigare jobb som globalt ansvarig för e-handelsplattformarna för alla varumärken på H&M. 

– Jag har gjort en helomvändning. Efter att ha varit där i nio år så bestämde jag mig för att jag ville göra något annat. Något som skapar värde och där jag kan göra skillnad på riktigt. Att verkligen kunna komma in och förändra och bryta ny mark – det var det jag nappade på, säger hon. 

Karolinska universitetssjukhuset är inte bara ett av Europas största sjukhus utan också rankat nummer sju i världen i tidskriften Newsweeks ranking ”Worlds best hospitals”. Och det ställer krav på it-miljön.  

– Vi vill vara världsledande inom sjukvården och då måste vi vara världsledande inom it i vården också. 

Bygger ny plattform

För att ta sig vidare från en föråldrad it-miljö byggs därför en plattform för att kunna tillgängliggöra data – både operationellt i vård och behandling och analytiskt för uppföljning, analys och forskning. 

Plattformen man utvecklar byggs för Karolinska men också för hela region Stockholm.  

– Vi har uppdraget att bygga den här infrastrukturen. Regionen bevakar det vi gör och i och med de upphandlingarna som regionen nu genomför så tittar man också på hur den här nya infrastrukturen och plattformen ska kunna användas. 

Parallellt med att Karolinska utvecklar ny infrastruktur så har region Stockholm gjort ett antal upphandlingar och just nu pågår en upphandling av ett gemensamt journalsystem som väntas vara klar i höst. 

Och nyligen avslutades en upphandling av en Clinical Data Repository, CDR,  själva databasen där hälsodatan sparas. Ett Clinical Data Repository är en realtidsdatabas som konsoliderar data från en mängd olika kliniska källor. När den implementeras under hösten tas nästa steg för  att få ut tillämpningar för vården.   

Minska administrationen

I ett första skede vill man komma åt den enorma administrationen i vården. 

– Där tittar vi på hur vi kan föra över data automatiskt till de olika kvalitetsregisterna i den nya plattformen, där pågår arbete där vi tittar på hur det ska kunna skalas. Det skulle vara enormt tidsbesparande för vården. 

Både automatiseirng och AI finns med i planen för att effektivisera och minska administration och därmed möjliggöra att vårdpersonal får mer tid med patienterna.  

– Vi tittar också på hur vi kan använda AI inte bara i klinisk rutin utan också för mer administrativa ändamål som att förbättra schemaplanering, operationsplanering, och att minska administration i exempelvis ekonomiprocesser. 

Ett annat prioriterat område är att låta AI leta fram information från olika källor som intranät- och dokumenthanteringssystem. 

Måste ha avvecklingsplan

Men under plattformen döljs fortfarande en enorm mängd system och hur man ska hantera det stora systemarvet är en viktig fråga framåt. Många äldre system knyts till den nya plattformen som möjliggör att det går att göra alla de data som finns där bättre tillgängliga för verksamheten. 

Men Malin Fahlén trycker på att Karolinska också behöver bli bättre på att inte bara ta in nya system utan också titta på avvecklingen. 

– Vi behöver ha långsiktiga planer för hur vi ska förändra vårt systemlandskap också både på kort och lång sikt. När det uppstår behov så köps det ofta in ett system men där behöver vi verkligen tänka till så att vi inte bara adderar i systemparken. Det kan också handla om hur vi arbetar med våra leverantörer. 

Mängden system – ibland föråldrade – skapar inte bara komplexitet utan också risker. Därför gäller det att avvecklingen sker på ett standardiserat och säkert sätt så att det blir så få enskilda integrationer som möjligt. Dessutom finns it integrerat även i exempelvis medicinskteknisk utrustning.

– Allt detta gör it-säkerheten till en mycket viktig del för oss givet både Nato-inträdet och  att vi är i en sektor som är ett tydligt mål för cyberattacker. För att kunna avveckla och ta in nya system  på ett säkert och effektivt sätt är det avgörande att vi har en målarkitektur både i regionen men också för oss på sjukhuset, säger Malin Fahlén. 

Skapa sömlös upplevelse

Förutom en tydlig målarkitektur är det också nödvändigt med en integrationsstrategi på både kort och lång sikt för att hänga med i utvecklingen och inte hamna i legacy framhåller Malin Fahlén. 

–  I grund och botten måste vi minska administrationen och möjliggöra för läkare att spendera tid i den kliniska verksamheten och inte behöva lägga för mycket tid i olika it-system. Vi behöver se till att kontexten fungerar – att samma patient följer med och data hanteras effektivt och korrekt oavsett system, säger hon. 

– Vi vill uppnå en sömlös upplevelse där personalen inte behöver lägga onödig tid på att logga in och ut från olika system för att hantera dokumentationen kring en patient –  det är grundläggande saker som vi bara måste få att fungera.  

För att på ett säkert sätt kunna prova sig fram och testa nya tekniker så planerar Karolinska att få upp sandboxmiljöer  som ska kunna användas inte bara av it-organisationen utan också av vårdverksamheten. 

– Vi behöver möjliggöra it-miljöer där drivna medarbetare i vården ska kunna arbeta. Det är viktigt att vi gör det på ett säkert sätt istället för att det upphandlas eller köps in i olika miljöer ute i verksamheten utan att vi har de här miljöerna hos oss.Vi behöver ju ha innovation i allt vi gör och se till att vi ligger i framkant. 

Långa processer

Efter ett år på Karolinska – vad är då de största skillnaderna mellan offentlig och privat sektor? 

– Den största skillnaden är nog hur man arbetar med tredjeparter och leverantörer. I offentlig sektor är det långa processer med offentliga upphandlingar och lagrummet som är strikt reglerat. Utrymmet att fatta snabba beslut och justera riktningen längst vägen är mindre än i en privat verksamhet.  

I många privata verksamheter ligger systemen  i molnet  – på Karolinska ligger inget där ännu även om det är något som utvärderas.  

– Den dörren var helt stängd när jag började men vi tittar nu på vilka möjligheter som finns. Sedan måste vi troligen även i framtiden ha on-prem-lösningar och egna interna molntjänster för system som  inte lämpar sig för att läggas ut i molnet.

Men det finns likheter också – inte minst när det gäller arbetet med att få it och verksamhet att jobba mot gemensamma mål. 

– Det är inte bara i det privata näringslivet som det är viktigt att förstå värdeskapandet. Vi måste prioritera vårt arbete för att generera värde i vården. De lösningar vi levererar måste vara skalbara så att vi kan bygga vidare på ett kostnadseffektivt sätt och generera maximal verksamhetsnytta, säger Malin Fahlén.   

– Det innebär att det är viktigt att hitta bra metoder för styrning och hur vi tillsammans med verksamheten gör prioriteringar mot gemensamma mål – det jobbar vi mycket med. It som funktion kan inte arbeta isolerat utan det är alla, tillsammans i verksamheten som behöver samarbeta för att vi ska bli framgångsrika.

Så moderniserar Karolinska sin it-miljö – ”vi måste vara världsledande även på det” Read More »