Om du frågar Google AI huruvida FN anser det bevisat att kvinnor våldtogs i Israel 7 oktober 2023 kommer svaret att bli ja. För att ändra det svaret kan det krävas synnerligen hårda tag i din prompt, dvs den text du matar AI med.
Varför då?
För att AI hallucinerar.
Och jag kan höra gapflabben.
”Höhöhö, du får inte de svar du vill ha, och då passar det inte längre med AI!”
Så låt oss grotta ner oss lite i vad en hallucination är, och varför det inträffar just i detta fall.
Kort påminnelse från igår:
I mars 2024 skrev Pramila Patten, FN:s särskilda representant för sexuellt våld i konflikter, att hennes team fann ”skälig anledning att tro” att konfliktrelaterat sexuellt våld, inklusive våldtäkt och gruppvåldtäkt, hade förekommit på minst tre platser den 7 oktober.
I juni 2024 kom sedan den oberoende internationella undersökningskommissionens rapport. Den slog fast att kommissionen inte själv hade kunnat verifiera våldtäktsanklagelserna, bland annat på grund av bristande tillgång till offer, vittnen och brottsplatser, och att vissa specifika påståenden dessutom visat sig vara falska, felaktiga eller motsägelsefulla.
Men under tre månaders tid var alltså Pattens bedömning det närmaste som fanns en FN-slutsats i frågan, och en rad artiklar skrevs om ”FN:s slutsats”. När kommissionens rapport sedan kom i juni var det naturligt att betrakta den som den tyngre FN-bedömningen av vad som faktiskt hade kunnat verifieras. Men när en AI-bot idag ska svara på frågan om FN:s slutsats går inte boten och läser dokument, utan plockar upp det från andra källor.
Men, tänker du då, om jag är väldigt specifik och skriver att jag vill veta vad kommissionen sa, och explicit undantar Patten?
Det hjälper ofta inte. AI kan nu komma att blåljuga för dig och säga att Pattens slutsats var kommissionens. Och det är det som kallas ”hallucination”: ett svar som verkar korrekt, men är helt taget ur rumpan.
Det kan krävas en extraordinärt hårt uppstyrd prompt, som beordrar boten att gå direkt till dokumentet, hitta citaten, läsa dem, inte blanda ihop sexual violence med våldtäkt, så kanske du till slut lyckas få den att säga ”I apologize”.
Egentligen är detta inget nytt under solen. Jag är dataingenjör. Min utbildning är programmering på åttiotalet, när AI var ungefär lika med Terminator och väldigt långt från verkligheten.
Fel uppstår. Det är ingen anledning att inte använda den teknik som finns. Men det finns heller ingen ursäkt för att lita blint på den.
Jag använder AI hela dagarna till allt från ekonomisystem till research till bloggande till inköpslistor till att generera bilden här, men aldrig någonsin istället för att gå till en källa, när det gäller något som är viktigt.
Fler artiklar:
Samhällsdebatt · Israel-Palestina · Våldtäktsanklagelserna den 7 oktober
