AI

  • AI hallucinerar om våldtäkter

    Illustration av en AI-chattbot på en laptop omgiven av blandade bilder och dokument.

    Om du frågar Google AI huruvida FN anser det bevisat att kvinnor våldtogs i Israel 7 oktober 2023 kommer svaret att bli ja. För att ändra det svaret kan det krävas synnerligen hårda tag i din prompt, dvs den text du matar AI med.

    Varför då?

    För att AI hallucinerar.

    Och jag kan höra gapflabben.

    ”Höhöhö, du får inte de svar du vill ha, och då passar det inte längre med AI!”

    Så låt oss grotta ner oss lite i vad en hallucination är, och varför det inträffar just i detta fall.

    Kort påminnelse från igår:

    I mars 2024 skrev Pramila Patten, FN:s särskilda representant för sexuellt våld i konflikter, att hennes team fann ”skälig anledning att tro” att konfliktrelaterat sexuellt våld, inklusive våldtäkt och gruppvåldtäkt, hade förekommit på minst tre platser den 7 oktober.

    I juni 2024 kom sedan den oberoende internationella undersökningskommissionens rapport. Den slog fast att kommissionen inte själv hade kunnat verifiera våldtäktsanklagelserna, bland annat på grund av bristande tillgång till offer, vittnen och brottsplatser, och att vissa specifika påståenden dessutom visat sig vara falska, felaktiga eller motsägelsefulla.

    Men under tre månaders tid var alltså Pattens bedömning det närmaste som fanns en FN-slutsats i frågan, och en rad artiklar skrevs om ”FN:s slutsats”. När kommissionens rapport sedan kom i juni var det naturligt att betrakta den som den tyngre FN-bedömningen av vad som faktiskt hade kunnat verifieras. Men när en AI-bot idag ska svara på frågan om FN:s slutsats går inte boten och läser dokument, utan plockar upp det från andra källor.

    Men, tänker du då, om jag är väldigt specifik och skriver att jag vill veta vad kommissionen sa, och explicit undantar Patten?

    Det hjälper ofta inte. AI kan nu komma att blåljuga för dig och säga att Pattens slutsats var kommissionens. Och det är det som kallas ”hallucination”: ett svar som verkar korrekt, men är helt taget ur rumpan.

    Det kan krävas en extraordinärt hårt uppstyrd prompt, som beordrar boten att gå direkt till dokumentet, hitta citaten, läsa dem, inte blanda ihop sexual violence med våldtäkt, så kanske du till slut lyckas få den att säga ”I apologize”.

    Egentligen är detta inget nytt under solen. Jag är dataingenjör. Min utbildning är programmering på åttiotalet, när AI var ungefär lika med Terminator och väldigt långt från verkligheten.

    Fel uppstår. Det är ingen anledning att inte använda den teknik som finns. Men det finns heller ingen ursäkt för att lita blint på den.

    Jag använder AI hela dagarna till allt från ekonomisystem till research till bloggande till inköpslistor till att generera bilden här, men aldrig någonsin istället för att gå till en källa, när det gäller något som är viktigt.

    Fler artiklar:

    Samhällsdebatt · Israel-Palestina · Våldtäktsanklagelserna den 7 oktober

    Följ diskussionen på Facebook:

  • Hur orkar du?

    ”Hur orkar du?” är en fråga jag ofta får.

    Men att diskutera på nätet är ingen uppoffring för mig, utan långt mer givande än många av er som inte gör det kanske tror. Särskilt i år, när jag fått så mycket gehör för mina tankar. Det viktiga är bara att göra det rätt så att det tillför energi istället för att suga ut. Så jag tänkte bara ge lite tips på vad som funkar för mig efter 20 år.

    Först och främst gäller det att aldrig tappa fokus på vad man vill uppnå. För mig handlar det i regel, men inte alltid, om att få fram ett budskap, och då är alla diskussioner, även med meningsmotståndare, bra. Jag blockar aldrig någon för dens åsikter, utan enbart på grund av dåligt beteende. Och visst kan jag ibland reagera med ryggmärgen – som alla andra har jag mina svaga stunder – men jag försöker låta bli.

    Så hur bemöter jag antagonister?

    Den första gruppen är de som bara är otrevliga. Dem struntar jag oftast helt i. De gör inte den skada de tror när de kliver in och skriver att jag är en idiot, för ironiskt nog hjälper de till att prioritera mitt inlägg. Så om det är någon som är idiot – nyttig sådan – är det de. Och sedan undrar de varför jag så ofta dyker upp i deras flöde …

    Sedan har vi de som faktiskt har något att komma med. Det är dem jag lägger mest tid på, och som jag lär mig mest av. Och jag märker att många läser – när jag besvarar en tidig och genomtänkt kommentar på en post som blir viral kan jag få mellan femtio och hundra reaktioner, vilket normalt betyder att tio gånger fler har läst helt eller delvis.

    Och så har vi OT-folket som försöker whatabouta bort frågan. Jag svarar dem ibland, men försöker hålla det kort. Ofta lägger jag med en länk till var jag har skrivit om det de tar upp tidigare.

    Notera nu att jag inte har något emot off-topic-diskussioner när jag håller med, för då behöver jag ju inte lägga tid på att bemöta det som står. Men jag vill inte att felaktigheter ska spridas på min vägg.

    Den jobbigaste gruppen är som jag sagt förut de som läser in sådant jag inte skrivit, och bemöter det. Jag brukar låta bli att skriva att de har fel, och frågar dem istället var jag skrev det de påstår. Det är rätt effektivt, för då måste de ju läsa om inlägget.

    Värsta kategorin är de som skriver ”du har fel”, och sedan fortsätter utan att precisera om vad. Man kan bemöta dem genom att fråga exakt vad det är de anser att jag har fel om, eller på vilket sätt det jag skrev går emot det de skriver, men det är, som jag skrev för några veckor sedan efter att ha blockat en mångårig vän som gjorde så dagligen i en vecka, en totalt värdelös diskussion. Den äter tid och leder inte framåt alls.

    Det viktiga är att hålla koll på vad man vill åstadkomma. Om påverkan är målet gäller det att optimera tiden och inte dras in i sånt som inte ger något.

    Sedan har jag blivit skarpare med tiden. Jag pekar t ex ut mansplainande, muslimhat, etnorasism (i regel mot palestinier) och övrig rasism i högre grad än förr. Då tyckte jag etiketterande ledde till onödiga semantiska diskussioner, men nu har jag kommit fram till att när det är tydligt är det bra att inte låta ”bigots” komma undan.

    Hur får du andra att läsa dina inlägg?

    Om du vill lägga upp en länk, lägg först upp en bild. Då räknas inlägget som bildinlägg – annars blir det ett länkinlägg och verkar prioriteras ner om inte länken är Facebook-intern. Men YouTube- och twitterlänkar verkar alltid prioritera ner inlägg, så lägg dem i kommentarerna. Jag säger ”verkar”, för Facebook publicerar inte sina algoritmer.

    Svara på kommentarer. Det driver trafik.

    Och låt inte AI skriva alls. Det märks direkt, och det blir aptråkiga texter. Jag använder AI för min research, skriver sedan alltid helt själv och låter AI faktagranska texten, men jag rättar bara direkta fel – inte allt AI har synpunkter på.

    Jag har laborerat med att låta AI skriva ett utkast åt mig, men det tar mycket längre tid och blir sämre, för då måste jag för varje mening fundera över hur jag skulle ha formulerat mig, istället för att hamna rätt från början.

    Och jag har inte berättat det här förut, men jag får faktiskt sedan i januari betalt av Facebooks monetization-program. Inga mängder med pengar jämfört med den tid jag lägger, men jag snittar på en tusenlapp i månaden. Det är förstås inte därför jag skriver, men det gör inte ont.

    Fler artiklar:

    Samhällsdebatt

    Följ diskussionen på Facebook:

  • Islam är inte problemet

    Någon hävdade precis att problemet med islam är att det är en patriarkalisk religion idag, till skillnad från kristendomen som slutat vara det. Det är förstås bara trams. Det är framför allt regionen, inte religionen, som avgör hur patriarkaliskt ett land är. Alla religioner går att anpassa.

    Så igår skrev jag om hur AI felanvänds. Idag vill jag påpeka hur lätt det är att använda AI rätt. Bara fråga vilket index som bäst mäter ojämställdhet, och be sedan din favvo-AI-chat jämföra Europas två muslimska länder (Kosovo har inga data) med sina grannar, och du får detta. Här finns landpoängen och rankingen i 2025 års rapport.

    Alla religioner går att anpassa. Det är regioner, inte religioner, och deras traditioner, historia, ekonomi, grad av självständighet och frihet från förtryck som i huvudsak avgör vilka rättigheter kvinnor har.

    Islam är inte ett större hinder för detta än kristendom.

    Fler artiklar:

    Religion

    Följ diskussionen på Facebook:

  • Vetenskap-skit

    AI-reklam ploppar upp. Förmodligen direktöversatt från ”since we bought this science kit”, men rösten säger ”sedan vi köpte detta vetenskap-skit”. Det är inte det enda språkfelet, för man kan nämligen göra en vattenskåter i skitet.

    Någon betalar för att svenskar ska se det där. Hade det verkligen varit så mycket dyrare att få en svensk person att läsa texten istället? Eller åtminstone lyssna igenom vad som sägs?

    Jag hör inte till dem som är rädd för att AI kommer att ta ”arbetstillfällena”. Det var samma diskussion när maskiner tog över hamnsjåarnas jobb och när datorer ersatte räknenissar. Nya jobb dyker upp och arbetsdagar kan kortas.

    Jag är mer lack på den fördummande effekten den har. Överanvändning är inte problemet, utan felanvändning. Varje dag ploppar det upp flera personer som inte alls läst vad jag skrivit, men pejstar in en lååååååång kommentar som helt hamnar bredvid det jag framfört. Typ ”du missar helt att …” följt av tre decimeter årtal och bokreferat och sjöslag och vad det nu kan vara som nissen uppenbarligen knappt läst själv.

    Och jag säger så här. Om man verkligen känner att man vill kommentera utan att läsa, så ta åtminstone och kopiera min text, ta sedan fram din AI-prompt och skriv ”sammanfatta skribenten” plus Ctrl+V.

    Fler artiklar:

    Samhällsdebatt

    Följ diskussionen på Facebook: