En samling framstående AI-experter har skrivit på ett öppet brev som uppmanar till att fler regleringar införs för skapandet av så kallade deepfakes. Brevet är påskrivet av över 400 experter. Bland annat av en av AI-teknikens stora banbrytare, Yoshua Bengio, psykologen Steven Pinker, två av Estlands tidigare presidenter och forskare vid Google, Deepmind och Open AI, rapporterar Reuters.
Deepfakes är bild- och ljudmaterial genererat med hjälp av AI-teknik som är så högkvalitativa att det kan lura även skeptiska personer. Tekniken har bland annat använts för att imitera kändisar i olika sammanhang.
“I dag involverar deepfakes ofta sexuella bilder, bedrägerier och politisk desinformation. Eftersom AI utvecklas snabbt och gör det mycket enklare att skapa deepfakes så behövs skyddsåtgärder”, skriver AI-experterna i brevet.
Regleringarna de vill ska införas är en total kriminalisering av deepfake-gjorda övergrepp på barn samt att personer som medvetet sprider skadliga deepfakes ska kunna straffas. Experterna vill också att AI-företagen ska behöva förhindra att deras produkter kan användas för att skapa skadliga deepfakes.