Regulation

Polischefer från samtliga EU- och Schengen-länder skriver i ett gemensamt uttalande att företag och myndigheter snarast möjligt måste vidta åtgärder mot införandet av totalsträckskryptering på sociala medier-plattformar. Totalsträckskryptering innebär att bara sändare och mottagare kan läsa meddelanden som skickas i klartext. Just nu håller tekniken på att rullas ut på Metas Messenger-plattform.

I uttalandet skriver polischeferna att totalsträckskryptering kommer göra så att teknikföretagen inte kan se eventuell brottslighet som tjänsterna används för. Tekniken kommer också hindra polisens förmåga att samla in bevis för grova brott som sexuella trakasserier, människohandel, drogsmuggling, mord, ekonomibrott och terrorism.

– Våra hem håller på att bli farligare än våra gator eftersom brottsligheten flyttar online. För att hålla vårt samhälle och människor säkra behöver vi säkra denna digitala miljö. Teknikföretag har ett socialt ansvar att utveckla en säkrare miljö där rättsväsendet kan utföra sitt arbete. Om polisen förlorar förmågan att samla in bevis kommer vårt samhälle inte kunna skydda människor från att bli offer för brott, säger Europols verkställande direktör, Catherine De Boll.

Polismyndigheten i Sverige representerades vid mötet av biträdande rikspolischef Stefan Hector.

– Polisens förutsättningar måste anpassas till dagens och morgondagens tekniska verklighet. Det är inte rimligt att polisen tappar förmåga för att tekniken utvecklas i snabb takt, säger han i ett pressmeddelande.

– Ett samhälle kan inte acceptera att kriminella i dag har ett utrymme att kommunicera säkert i syfte att begå grova brott, till exempel sexuella övergrepp på barn eller mord.    

Tiktoks framtid i USA har blivit allt mer osäker. USA:s representanthus röstade i helgen igenom ny lagstiftning som kan innebära att videodelningstjänsten förbjuds i USA om den kinesiska ägaren Bytedance inte säljer av Tiktok till amerikanska ägare.

Lagstiftningen måste även röstas igenom av den amerikanska senaten, vilket väntas ske inom kort. USA:s president Joe Biden har tidigare sagt att han kommer att stödja lagstiftningen.

The Information rapporterar att Tiktoks politiska chef, Michael Beckerman, i ett internt meddelande till personalen säger att om lagstiftningen går igenom så kommer Tiktok att bestrida den i rätten och yrka på att den bryter mot yttrandefriheten i landet.

Tiktok har tidigare blivit förbjudet i den amerikanska staten Montana, varpå en distriktsdomare senare blockerade förbudet på grund av att det stred mot Tiktok-användarnas yttrandefrihet.

Bakgrunden till förbudet är bland annat oro för att videodelningstjänsten samlar in data som kan delas med Kinas regering. Tiktok själva har vid upprepade tillfällen nekat till detta.

Storbritanniens konkurrensmyndighet, Competition and Markets Authority (CMA), uppger att en pågående granskning av den snabbt växande AI-marknaden gjort dem oroliga.

– När vi påbörjade det här arbetet var vi nyfikna. Nu när vi har en djupare förståelse och sett utvecklingen på nära håll, så är vi genuint oroliga, sa Sarah Cardell, chef för CMA, i ett tal i Washington DC förra veckan, rapporterar BBC.

Myndigheten håller just nu på att granska grundmodeller för AI. I och med detta har CMA konstaterat att ett mycket begränsat antal redan mäktiga teknikföretag tagit ledningen. Företag som Google, Apple, Microsoft, Meta, Amazon och Nvidia.

Enligt en rapport myndigheten släppt har man hittat över 90 investeringar och partnerskap som alla rör samma företag.

CMA säger att dessa företag har tillgång till både tekniska resurser såväl som skickliga anställda och kan påverka tillgången till marknaden genom appar och plattformar, vilket myndigheten säger negativt kan påverka konkurrensen.

– Den stora utmaningen vi står inför är hur vi alla kan dra nytta av den här otroligt spännande tekniken, samtidigt som vi säkrar oss från potentiellt utnyttjande av marknadskrafter och oförutsedda konsekvenser, säger Sarah Cardell.

USA och Storbritannien meddelar att ländernas säkerhetsinstitut för AI framöver kommer att samarbeta sömlöst med varandra vad gäller forskning, utvärdering och vägledning för AI-säkerhet. Beslutet följer åtaganden som gjordes vid AI Safety Summit i november 2023.

Samarbetet innebär att länderna kommer att harmonisera sina vetenskapliga tillvägagångssätt och arbeta nära varandra för att snabbt utveckla och revidera utvärderingar för AI-modeller, system och agenter.

De amerikanska och brittiska instituten för AI-säkerhet avser att genomföra minst en gemensam testövning på en offentligt tillgänglig AI-modell och utforskar även möjligheten för personalutbyten mellan instituten. USA och Storbritannien arbetar också på att utveckla liknande samarbeten gällande AI-säkerhet med andra länder.

Det flyger runt mycket om AI just nu konstaterar advokat Caroline Olstedt Carlström, specialiserad på dataskydd, och Gastón Fernández Palma som är compliance officer på advokatbyrån Cirio. 

Och AI Act, EU:s nya AI-förordning, adderar till stressen, inte minst hos cio:er. Men att detaljläsa den 458 sidor tjocka förordningen är inte vad advokatbyrån rekommenderar i första hand. 

– Det handlar egentligen inte om lagstiftningen för de flesta vanliga företag som inte är Microsoft eller så. För den vanliga cio:n är utmaningen snarare att se till att den egna organisationen till att börja med är tillräcklig förberedd. Att använda den internkontroll som kommit på plats efter GDPR, säger Caroline Olstedt Carlström. 

– Tipset till cio:er är att de ska ta på sina dataskyddsglasögon – hur ser processerna ut och vad finns redan på plats? 

Samma bedömningar som GDPR

I grunden handlar det nämligen om inledningsvis samma bedömningar som man måste göra redan i dag kopplat till GDPR – vilka kontroller ska göras, hur ska informationen behandlas, hur lång tid ska den användas, vad är syftet och så vidare. 

– Om man har de här processerna på plats så är AI-förordningen en förlängning av det för det handlar ofta om behandling av personuppgifter. Sedan måste man också ha kontroll över immateriella rättigheter och se till att inte företagshemligheter läcker också. Men har man dataskyddet under kontroll så lägger detta bara på ett extra lager. 

Gastón Fernández Palma tycker också det är viktigt att ha med sig att den nya förordningen bara är en pusselbit när det gäller AI. 

– Det finns redan mycket lagstiftning som träffar AI i dag, förutom GDPR också sekretesslagstiftning exempelvis. Det här är mer en struktur för it-folk har koll på hur data flödar in, förvaltas, avvecklas. 

Förutom att se till att de interna affärsprocesserna och strukturerna finns på plats, som de redan nu borde göra, så är det viktigt att fundera kring vad man faktiskt vill göra framåt. 

– Visst kan man ta sikte på att hantera ett kärnkraftverk men är det verkligen det som är avsikten? Allt måste passera samma process – på många företag finns en evangelist eller tre när det gäller AI och då gäller det att hugga tag i dem snabbt så de inte springer i väg på egen hand. 

Måste utbilda organisationen

För att lyckas hantera AI på ett sätt som både följer alla regler och också är gynnsamt för den egna verksamheten krävs också att man har kunskap så att man förstår vad AI är och vilka tillämpningar som finns – och här kanske cio:n har sin viktigaste roll enligt Gastón Fernández Palma. 

– Jag är compliance officer på Cirio själv och jag jobbar väldigt nära it-chefen – vi träffas varje dag. Cio:n måste ta ansvar för att utbilda organisationen och hantera förväntningar, så att alla vet vad som går att göra och inte, 

Inte minst verktyg som Chat GPT som demokratiserar AI gör att det krävs väldigt tydliga instruktioner för vad som är tillåtet. 

– Även om det inte direkt bryter någon lag så riskerar du att tappa värde om något som är guld värt läcker ut. 

Utbildning gäller alla i organisationen, från styrelse och ledning ner till golvet. I dag finns ofta ett gap mellan en styrelse som inte vet så mycket om AI men ligger på för att tekniken ska användas och verkligheten. 

Koppla kunskap till strategi

– Det finns en ”fear of missing out” där styrelsen är jättepå  och mån om att man inte ska tappa i förhållande till konkurrenter. Det går sedan vidare till en ledningsgrupp som ofta inte har den kunskapen – så det finns ett klart utbildningsbehov där, säger Caroline Olstedt Carlström. 

Risken är annars att det inte finns någon tydlig riktning från styrelsen samtidigt som det stoppar upp andra projekt för att prioritera AI medan organisationen inte vet vad de faktiskt ska springa på. Utbildning och tydlighet blir nyckeln här. När de finns mer kunskap kan det som görs kopplas till en strategi. 

– Det gäller att snabbt få ett internt ramverk där man definierar vilka behoven är, vad man får göra och inte och utbilda kring det. 

Många organisationer skapar AI-råd men Caroline Olstedt Carlström förordar också gärna att mandatet för en dataskyddskommitté kan vidgas till att inkludera AI för att inte missa något. 

Utbildning, kontroll och transparens

Så vad är då de viktigaste råden till en cio som funderar på hur AI och den nya förordningen ska hanteras? 

– Utbildning, utbildning, utbildning, säger Gastón Fernández Palma. 

Caroline Olstedt Carlström pekar på tre punkter. 

– Intern kontroll och utbildning är det första. Sedan att man arbetar på sin compliance genom dokumentation, att man sätter sina legala och etiska överväganden på pränt. Och så att man fortsätter jobba på transparensen – förklarar vad man gör och informerar. 

Microsoft kommer i slutet av mars att stänga ner över 50 olika molntjänster för företag i Ryssland. Nedstängningarna sker till följd av sanktioner mot landet som EU beslutade om i december 2023. Bleeping Computer skriver att från början skulle nedstängningarna ske redan den 20 mars men flyttades till slutet av månaden för att ge påverkade företag mer tid till att hitta alternativa lösningar.

Microsoft själva har inte listat exakt vilka molntjänster som kommer att påverkas men enligt den statliga ryska nyhetsbyrån TASS inkluderar det bland annat Microsoft Azure, Dynamics 365, Microsoft Teams, Power BI, SQL Server, Visual Studio, Power Automate, Sharepoint, Intune, Dynamics AX/NAV, Microsoft 365, Onedrive och Excel.

Liknande nedstängningar förväntas snart införas för Amazon, Google och Oracles molntjänster. Det finns inga kända planer på att stänga ner molntjänsterna för privatpersoner i Ryssland.