Över 150 AI-forskare, etiker och juridiska experter har skrivit under ett öppet brev som vill att företag som utvecklar generativ AI tillåter att deras system utvärderas av oberoende parter av säkerhetsskäl.
Brevet har skickats till företag som Open AI, Anthropic, Google, Meta och Midjourney och vill att företagens produkter ska kunna granskas av forskare i en “rättsligt säker hamn” för att skydda konsumenter från partiskhet, påstådda upphovsrättsintrång och oönskade intima bilder.
“Oberoende red teaming av AI-modeller har upptäckt sårbarheter relaterade till lågresurspråk, kringgående av säkerhetsåtgärder och flera olika jailbreakningmetoder”, skriver två av forskarna som ligger bakom brevet i ett blogginlägg.
Än så länge har inget av AI-företagen som brevet skickats till kommenterat det offentligt.