Grävande avslöjanden visar hur USA:s största techbolag köper in och destruktivt skannar tusentals böcker. Bakom kontroversen gömmer sig också en djupare kris inom AI-branschen: bristen på icke AI-kontaminerad råvara och en möjlig teknisk peak inom generativ AI.

Sedan lanseringen av ChatGPT har generativa AI-tjänster sett en exponentiell tillväxt i samhället, på nätet och på arbetsplatserna, med ständigt nya lanseringar av bolag och AI-tjänster. Idag är generativ AI inbyggt i alla sorters digitala tjänster, såsom robotchattar på myndighetshemsidor eller AI-assistenter i Gmail och Outlook för att skriva och sammanfatta mejl. Branschens negativa påverkan på klimat och miljö är idag välkända, då enorma AI-datacenter slukar lika mycket el som hela länder och förstör närmiljön för de som bor i närheten.

Generativ AI har också påverkar hur själva internet fungerar och vilka som använder det. För första gången i internets historia upptas största delen av nätrafiken inte av mänskliga användare utan av automatiserad bot-trafik. AI-botar genererar texter, videos och bilder som publiceras på webbsidor och sociala medier, de hämtar in information och skrapar miljontals hemsidor på data – för att i sin tur kunna träna och utveckla nya modeller för generativ AI.

Det hela har inom AI-branschen givit upphov till farhågor om något som bäst skulle kunna beskrivas som en sorts digital inavel, eller en AI-loop. Språkmodeller som tränas på AI-genererat material skulle enligt dessa farhågor riskera att degenerera och i längden bli allt sämre och mindre naturtrogna. Och eftersom stora delar av internet numera är uppbyggt av helt eller delvis AI-genererat material blir det svårt att hantera problemet genom att fortsätta skrapa hemsidor.

Böcker som bränsle

För att säkerställa att språkmodellerna tränas på icke-AI-kontaminerat textmaterial har nu de stora USA-baserade techbolagen börjat köpa in och skanna äldre litteratur som publicerats före AI-boomen under 2020-talet, och som inte finns publicerat online, varken lagligen eller via bokpiratsajter. Bolag som Anthropic, som ligger bakom AI-tjänsten Claude, har tidigare omskrivits för sina stora inköp av äldre litteratur, i vissa fall gamla och utgångna böcker som inte längre finns i handeln.

Tillvägagångssättet har beskrivits som en ”bokskövling”: techbolagen köper in böcker som skärs upp i ryggen, och därmed förstörs rent fysiskt, för att göra det möjligt att snabbare skanna in texten. Enligt interna handlingar på Anthropic beskrivs processen som en ”strävan att destruktivt skanna alla böcker i världen”. Anthropic är dock inte ensamma om tillvägagångssättet eller ambitionerna.

Nättidningen 404 Media har nyligen kunnat avslöja en av de fabriker där destruktiv skanning genomförs. Genom att placera en GPS-tracker i en leverans av sällsynta böcker vilka misstänktes ha ett AI-bolag som mottagare, kunde man följa böckerna hela vägen till en Amazon-ägd anläggning i Las Vegas, kallad VGT3. Verksamheten kröns av en AI-genererad logotyp föreställande en dinosaurie som sliter sönder en bok.

På plats lyckades 404 intervjua arbetare vid anläggningen vilka berättade att de mycket riktigt arbetade med att skära upp böckerna och mata in dem i en automatisk skanner. Arbetarna uppgav att de även har som uppgift att skanna böckernas ISBN-nummer för att registrera böckerna, möjligen som led i ambitionen att skanna samtliga böcker i världen.

Kritik mot bokskövling

Tillvägagångssättet med destruktiv skanning av litteratur har kritiserats för att skada kulturarv och jämförs ibland – något tillspetsat – med förstörelsen av biblioteket i Alexandria. Den jämförelsen kan låta överdriven, men har man i åtanke att förstörelsen av Alexandrias bibliotek troligen inte var en plötslig och dramatisk händelse utan snarare en utdragen process över decennier och möjligen sekler, så går det kanske bättre att förstå liknelsen.

Den destruktiva skanningen ringar även in ett centralt problem för AI-branschen själv, nämligen det faktum att utvecklingen inom generativ AI och inte minst stora språkmodeller på senare tid tycks ha stannat av. En förklaring till detta är just bristen på ny råvara, det vill säga orörd och icke AI-genererad text att träna nya AI-modeller på. Förstörelsen och skanningen av äldre litteratur kan i ljuset av detta ses som ett tecken på självinsikt och en sorts desperation inom den storskaliga AI-branschen. Enligt denna teori skulle det mycket möjligen kunna vara så att de stora språkmodellerna som ChatGPT, Gemini och Claude har nått en teknisk topp som är svår eller omöjlig att ta sig över.