AI Incident Database är en webbplats som kartlägger olika situationer där användningen av AI blivit fel. Istället för sårbarheter och buggar i mjukvaran fokuserar webbplatsen på problematiska situationer i verkligheten som skapats av AI. Detta kan exempelvis vara politisk desinformation, partiskhet eller pornografiska deepfakes.
Databasen är modellerad efter CVE-programmet och den amerikanska trafikmyndighetens system för att rapportera fordonsolyckor. Än så länge innehåller den över 600 unika händelser kopplade till automatisering och AI. Projektet lanserades ursprungligen av Partnership On AI, vilket är en grupp som strävar efter att säkerställa att AI-tekniken gynnar samhället.
– Det finns en stor informationsasymmetri mellan AI-systemens utvecklare och konsumenterna och det är inte rättvist, säger Patrick Hall vid AI Incident Database, i en intervju med The Register, och fortsätter.
– Vi behöver mer transparens och vi känner att det är vårt jobb att dela den informationen.
Förhoppningen är att genom att kartlägga AI-problemen över tid kommer det också gå att se trender i dem, vilket kan leda till en bättre förståelse för tekniken.
– Du behöver mäta saker för att kunna fixa saker, säger Patrick Hall.