30.6.2023
Artificiell intelligens är mycket användbara verktyg inom till exempel medicinen, och andra områden där man har att göra med analysen av stora mängder data. Men i interaktionen med AI i vår vardag finns det allvarliga frågor om ansvar, och en fara för att vi utlokaliserar våra omdömen.
Det som kallas artificiell intelligens, eller artificiellt intelligenta applikationer har slagit igenom på bred front under det senaste året. Bildgenereringsprogram som Midjourney AI och språkmodellerande program som chatGTP verkar representera ett genombrott i den teknologiska utvecklingen som har så vitt gående konsekvenser att få vågar sia om var gränserna för de nya systemens användbarhet kommer emot.
MfÅA går som vanligt, när det gäller frågor om artificiell intelligens till Martin Gustafsson, professor i ämnet filosofi vid Åbo Akademi för att prata om fenomenet.
Martin Gustafsson, har något nytt hänt med utvecklingen av AI eller är det vi ser hype?
– Både och.
– Jag vänder mig mot mytologiserandet av AI som en ”tänkande entitet” – och på den fronten, alltså i den tekniska utvecklingen av något som ”tänker” har inget radikalt nytt hänt. Däremot kan lanseringen av chatGPT och andra appar ha stora konsekvenser för våra samhällen. Och det är förstås fråga om en teknisk utveckling, men inte i fråga om det som kallas AGI, artificiell generell intelligens, alltså en artificiell intelligens som liknar ett mänskligt medvetande som kan tänka.
– De AI-system vi nu ser kan göra sammanhängande sammanställningar av data i textform, som PM. De kan göra illustrationer, grafisk design, och så vidare. Och det kommer att ha effekt på arbetsmarknaden och för arbetsbilden för de som jobbar i områden där AI kan vara ett användbart verktyg. För till exempel grafiker kan AI bli ett problem då man kan låta ett program stå för formgivningen och göra illustrationer i stället för att betala en yrkeskunnig människa.
En sak som gör att det uppstår förvirring kring AI är att språket är antropomorft; språket vi använder förmänskligar maskinen. Programmet ”skapar”, ”tänker”, ”ser”, ”pratar”, ”hör”, och så vidare. Alla de här verksamheterna förutsätter en agens, att det är ”någon” som gör något och med agens följer nästan automatiskt idéer om medvetande och vilja.
– Det är en förvånansvärt stark frestelse, för insatta personer hamnar lätt i att tala i förmänskligande termer om AI.
– Det man däremot inte pratat så mycket om, som Naomi Klein nyligen tog upp i en essä i The Guardian, är det faktum att det pågår en stöld av monstruös omfattning. De här AI-apparna använder precis allt som har laddats upp på nätet som är gjort av journalister, författare, konstnärer, och använder det utan vidare. Teknologijättarna ser till att systemen etableras i samhället innan lagen hinner i kapp. Grafiken som jag nämnde är ju ett hopkok av illustrationer som folk skapat och nu används de gratis som råmaterial, och ingen har frågat de ursprungliga upphovspersonerna om tillstånd.
– Det liknar fenomen som Googles applikation Street View som bygger på fotografier av folks hus och hem och vägar som laddades upp innan någon, förutom tyskarna, hunnit reagera. När allt väl är uppladdat tycks folk tycka att det ju är så praktiskt att ha allt tillgängligt på det vis vi nu har det, så varför skulle man nu vara till besvär. Demokratiska aspekter och integritetsskydd kommer lätt på undantag i lanserandet av de appar teknologijättarna förser oss med.
Risken är inte att maskinerna börjar tänka, utan att vi slutar göra det
En aspekt som också blir intressant, som i och för sig finns i byråkratiska system, är när resultatet som maskinen presterar är felaktigt, men man kan inte förstå varför och man kan heller inte identifiera vem som är ansvarig för ett felaktigt beslut och vem som har auktoritet att sätta sig över det. ”Computer says no” och därmed stopp.
– Ansvaret är absolut en av de viktiga aspekterna. Vem ansvarar för vad de här A.I. programmen gör? Och i vilken grad överlåter vi våra omdömen till de här systemen? Det här kan bli en viktig fråga för demokratin. Det här är ju en variation av Hannah Arendts stora tema i sin rapport från Adolf Eichmann-rättegången i Den banala ondskan. Arendt säger att Eichmann inte kan tänka: han hänvisar till systemet som tvingade honom att göra det han gjorde, han frånsade sig sin egen agens. Risken är inte att maskinerna börjar tänka, utan att vi slutar göra det.
– Optimister vänder igen på agensproblemet och anser att AI kan vara användbart i anställningsintervjuer eftersom man antar man får bort bias, man utgår från att AI är opartiskt. Men det har ju tvärt om visat sig att programmen är lika fulla av bias, rasism och fördomar som de som programmerat dem. Det ser man nästan komiskt tydligt om man prövar bildgenererings-appen dream.ai. Ber man den ge en bild på en filosof ger den alltid en illustration på en man. Ber man den ge en bild på en jazzmusiker ger den konsekvent en bild på en svart man som blåser i ett instrument. Att instrumentet, som verkar vara en trumpet eller saxofon tills man tittar närmare och märker att det är något slags sammansmältning av olika grejer som ser ut som instrument, är en annan komisk aspekt.
I scifi-litteraturen kring millennieskiftet är ”singularitet” ett återkommande tema. AI som förbättrar sig själv så snabbt att händelsehorisonten försvinner. Man hade tagit begreppet från astronomin där singulariteten är den punkt i ett svart hål där händelseutvecklingen är snabbare än vi kan uppfatta. Men vi verkar redan vara vid en sådan punkt på ett annat sätt då vi inte vet varför de här systemen gör vad de gör.
– Det är black box-problemet; vi vet inte vad som pågår mellan input och output. Vi vet till exempel inte varför chatGTP ljuger då man ber den svara på frågor. Den kan hitta på vilka vansinnigheter som helst.
– Det som jag själv ser som den stora risken är att AI formar oss, eller att vi formar oss själva kring AI på sätt som vi inte reflekterar över. Vem vet hur de här systemen kommer att påverka oss? Hur påverkar de våra sätt att tänka och förstå? Det jag tänker på handlar om ansvar, som jag redan var inne på. Att vi överlåter processer till system som vi ger auktoritet i våra liv.
– Frågan är om det inte vore vettigt, som en lång lista oroade vetenskapare föreslog i höstas, att frysa utvecklingen av AI under en tid för att fundera över vad vi håller på med och försöka förstå de övergripande konsekvenserna av den här utvecklingen. Det var en uppfriskande tanke. Bara för att vi kan göra något med en teknologi måste vi inte göra det. Men det kommer knappast att hända, det finns ingen politisk vilja att bromsa.
Vi vet att så gott som alla tekniska produkter som introduceras i arbetslivet under de senaste decennierna innebär att vi var och en får ytterligare jobb
– Det saknas en bred sociologisk analys av vad AI kommer att betyda. Man pratar om hur den tekniska utvecklingen gör oss friare och mera autonoma, men vi vet att så gott som alla tekniska produkter som introduceras i arbetslivet under de senaste decennierna innebär att vi var och en får ytterligare jobb. Och teknologin introduceras gradvis. Man får ju välja om man vill ha en mobiltelefon eller inte, men att försöka klara sig utan en i en normal vardag är inte ett realistiskt val.
– Jag misstänker att det sedan en tid tillbaka finns en vag men utbredd känsla av att ny teknik egentligen inte gagnar gemene man; att den mest införs för att andra ska tjäna pengar på bekostnad av vår egen sinnesfrid. Skillnaden är stor mot när min farmor, som hade sju barn, fick tillgång till egen tvättmaskin. Den var hon glad åt, den gav uppenbar avlastning i vardagen och hon fick tid att göra annat. Det är ju inte med den effekten ny teknologi kommer in i våra liv nuförtiden.