Påve Franciskus sa att han välkomnar en reglering av den artificiella intelligensen så att den kan bidra till en bättre värld. (foto: everythingpossible / Shutterstock)

En ledande forskare inom artificiell intelligens (AI), Geoffrey Hinton, säger att den tekniska utvecklingen går ”skrämmande” fort och varnar för att AI kan expandera så långt att vi inte kan ha kontroll över den. De finns de som kallar Geoffrey Hinton AI:s ”gudfader”. Tillsammans med många ledande personer, däribland påve Franciskus, vill han få någon säkerhet i att etiska aspekter ”byggs in” i grunderna för teknologin.

Geoffrey Hinton har länge varit forskare på Google och nyligen gått i pension vid 75. Han anser också att de potentiella farorna med den nya teknologin bör undersökas noggrant.

Geoffrey Hinton, foto Wikipedia

Programvaror som GBT-4 chatbotsystemet, som utvecklats av ingångsättningsföretaget OpenAI i San Francisco, ”överträffar oss i mängden allmänt vetande och ligger långt före oss”, sa Hinton till BBC News. ”När det gäller resonerandet är AI inte lika bra men klarar redan av enklare former av resonemang.” 

“Med tanke på hur snabbt utvecklingen går blir det förmodligen mycket snart bättre. Alltså måste vi se allvarligt på det,” sa han.

Förre forskaren på Google AI, Geoffrey Hinton, har uttalat sin oro över den teknologi han arbetat med; Steven Jurvetson|Wikipedia|CC BY 2.0.

GPT-4 (Generative Pre-trained Transformer 4, övers. anm.) är en stor inlärningsmodell inövad på enorma mängder data och historiska och samtida texter skrivna av författare som är människor. Modellen kan själv producera texter och generera blogginlägg, dikter och dataprogram. Den kan vara med i samtal som liknar människors och komma med svar på frågor, enligt en rapport i New York Times. Systemen ligger fortfarande tidigt i utvecklingen och dras med olika felaktigheter. Även om GPT-4 talar på ett förtroendeingivande sätt lägger det fram felaktiga upplysningar som korrekt information, i händelser som forskarna kallar ”hallucinationer”.

Liknande system kan generera övertygande audioinspelningar och bilder och video i fotografiskt realistiska bilder som ibland är avtryck av verkliga människor. De här tidiga versionerna av artificiell intelligens saknar idag självmedvetande. Debatten handlar om huruvida ett AI medvetande om sig själv skulle kunna vara möjligt att åstadkomma i digital framställning.

Hinton som nu bor i Kanada har varit en pionjär i skapandet och den bildliga framställningen av ”neurala nätverk” som är den sortens infrastrukturprogram som datorerna behöver för att kunna använda nya färdigheter och analysmetoder. De används i många AI system. Han och två medarbetare tilldelades också Turing Award 2018 som är ett högsta hedersomnämnande i datorvetenskapen. Enligt Hintons analys liknar de här AI systemen under utveckling inte alls de programvaror folk är vana att arbete med.

“Min slutsats är att den sortens intelligens vi utvecklar nu är mycket annorlunda än den intelligens vi har,” sa han. Vi kan få många kopior av samma digitala system med samma modeller av världen. Det är på den punkten de skiljer sig från den biologiska intelligensen hos mänskliga varelser. Fastän de lärs in för sig, separat, blir tillgången till deras kunskaper ”ett ögonblicksverk.”

“Det är som om man har 10 000 människor omkring sig och varje gång någon får veta något om något, vet alla samma sak med automatik. Det är så de här chatbotarna får veta så mycket mer än någon annan kan få veta,” sa Hinton.

Om en robot utvecklas med förmåga att tillskapa egna underliggande måltavlor och sedan avgör att dess måltavla ska maximera sin egna kraft, är det för Hinton ett scenario med ”värsta utfall”, eller en ”mardröm”.

Vilka är riskerna med artificiell intelligens?

Andra forskare har visat betänkligheter över riskerna med AI i närtid, mittvägs och i det längre perspektivet. Faran inledningsvis gäller dem som av misstag förlitar sig på mer effektiv och övertygande men vilseledande information och till och med helt felaktig information som presenteras i ett övertygande paket med AI. Bluffmakare och kriminella kan mycket väl få fram falska telefonsamtal som imiterar en anhörigs röst som i farans stund ber om snabb hjälp med pengar.

Påve Franciskus blev för inte så länge sedan föremål för falskt datorgenererat foto som spridits vida omkring. De var en bild på påven i en snygg dunjacka som gick viralt på sociala media som många av misstag uppfattade som ett äkta foto.

Om AI lyckas automatisera fler uppgifter som nu utförs i någon form av anställning, skulle enligt mångas farhågor arbetslösheten komma på tal igen. Moderatorer, juristbiträden, personliga assistenter och översättare skulle känna av trycket på sina jobb, eller bli ersatta, om samma funktioner fanns tillgängliga som ett innehåll på internet, enligt ett reportage i New York Times.

AI system som på lång sikt undgår människans kontroll, och till och med utrotar mänskligheten, hör sedan länge till basförrådet i science fiction. Experter kan ta upp ett oväntat beteende i AI system nu under utveckling. Om AI systemen kopplas ihop med andra internettjänster och bli så kraftfulla att de kan skriva in sina egna koder för att modifiera sig själva, skulle okontrollerad AI kunna bli en verklig fara.

Påven Franciskus och andra katoliker har ordet

Påve Franciskus har sagt att vetenskapen och teknologin bidrar praktiskt och vittnar om människans förmåga ”att ansvarsfullt delta i Guds pågående skapelseverk.” Påven sa under audiensen i Vatikanen den 27 mars att han ”ur detta perspektiv är övertygad om att utvecklingen av den artificiella intelligensen och maskinellt lärande har potential att positivt bidra till mänsklighetens framtid och att vi inte kan avfärda det.”

“Jag är samtidigt säker på att denna potential bara förverkligas om de som utvecklar teknologierna hela tiden är inställda på att handla etiskt och ansvarsfullt,” sa han.

Påpekandena gjordes under en audiens i Vatikanen med deltagare från Minerva Dialogues som är en grupp vetenskapsmän, ingenjörer, affärsledare, jurister, filosofer, katolska teologer, etiker och ledamöter i den romerska kurian.

Påven uppmuntrade ledarna att göra ”den inneboende värdigheten hos varje man och kvinna till nyckelkriteriet” i utvärderingen av teknologier som nu är på gång.

Påve Franciskus sa att han välkomnar en reglering av den artificiella intelligensen så att den kan bidra till en bättre värld. Han sa också att han är säker på informationen, att många som arbetar med nya teknologier reserverar en central plats åt etiken, det gemensamma goda och den mänskliga personen, stämmer med verkligheten. Han underströk att han var orolig för att de digitala teknologierna ska öka ojämlikheten i världen och att den mänskliga personen ska kunna reduceras till vad som kan vara känt teknologiskt.

Påven betonade: “En persons grundläggande värde kan inte mätas enbart av data.” Socialt och ekonomiskt beslutsfattande bör vara ”försiktigt” om det handlar om att delegera sina beslut till algoritmer och databehandling av en individs utseende och tidigare beteende.

“Vi kan inte tillåta algoritmerna att begränsa eller utgöra villkor för respekten för den mänskliga värdigheten, eller utesluta medlidande, barmhärtighet, förlåtelse och framför allt förhoppningarna att människor har förmågan att förändras sig,” sa han.

Under mötet med Påvliga akademin för livet (PAL) 2020 har ledamöter i akademin med ledande företrädare för IBM och Microsoft undertecknat ett dokument med krav på det etiska ansvaret i användandet av teknologierna inom artificiell intelligens. Dokumentet har fokuserat på algoritmers etik och den etiska användningen av den artificiella intelligensen, samstämmigt med principerna för transparens, inkluderande, opartiskhet, pålitlighet, säkerhet och skydd för privatlivet.  

Kevin J. Jones

Översatt för Katolsk Horisont, maj 2023; Göran Fäldt

Inlägget kommer från sidan www.ncregister.com

Direktlänk till inlägget klicka här