Skrivet av Elgot:
Nu vill jag förstås inte mäta mig med den gode professorn, men låter inte det där som en lite väl djärv slutsats (och säger han verkligen så? Jag hittar inte motsvarande på den länkade sidan)? Att visa att det måste förhålla sig så måste väl ändå vara svårt? Jag undrar också om hans slutsats är den allmänt accepterade.
Det är möjligt att den gode professorn har fel. Men någon får förklara hur en sådan intelligens skulle kunna uppstå. Innan någon kan göra det är det bara science fiction. Ett tankeexperiment som vi kan ägna oss åt just för att vi har en sådan fantastisk intelligens.
Vad får vi för svar när vi frågar en språkmodell (som inte har någon kropp) hur den upplever det att inte ha några ben? Vi får ett syntetiserat svar som delvis bygger på hur andra människor som har en kropp, men inte några ben, berättat att de upplever det blandat med en mängd andra upplevelser och tankar om ämnet som andra människor haft och som finns nedtecknade för en modell att göra analys av och representera i sin "projektion" av verkligheten. Tillsammans med vikter som representerar dramatiska, syntaktiska och rent logiska regler som går att härleda ur den text som modellen är tränad på kan den ge ett svar som en människa bedömer är i linje med hur en människa skulle kunna svara.
Skrivet av Elgot:
Vi kräver väl inte heller att en ai skall vara exakt samma som en människa? Vi bör väl som sagt vara minst lika toleranta som vi är mot att vi har skiftande förmågor.
Människor med olika typer av sensoriska begränsningar (medfödda eller något som tillkommit senare i livet) har inte lägre poäng på intelligenstest än andra och de har ofta betydligt högre förmågor än gemene man på de sinnen som de har kvar. Detta är mänsklig intelligens i et nötskal, förmågan att anpassa sig.
Skrivet av Elgot:
Det intressanta är väl dock att i alla fall enskilda sinnen inte verkar vara kritiska? Kan man hävda att en ai inte kan vara intelligent utan mänskliga sinnen när människor uppenbarligen kan vara det trots att de är blinda, döva eller utan känsel? Eller måste vi införa någon begränsning på att man måste ha ett visst antal mänskliga sinnen? Det känns som att man närmar sig det där med att man måste ha själ för att vara människa...
Du begår ett logiskt felslut i din härledning. Bortfall av några sinnen hos en människa gör inte människan mindre intelligent eftersom själva definitionen av intelligens är bland annat att klara av anpassning under sådana förhållanden, vilket vi har visat sker i stor omfattning. Du försöker att visa att en språkmodell, utan sinnen, kan vara intelligent eftersom att en människa med bortfall av något sinne kan vara det.
En språkmodell är begränsad till de data den tränats på och de algoritmer som styr dess processer. Den saknar förmågan att på egen hand söka ny information eller anpassa sig till nya miljöer på samma sätt som människor kan. Visst kan den söka information inom samtalets kontext, men den informationen är inte en del av modellen och således inte tillgänglig i framtida invokeringar av modellen. Modellen har inget medvetande. Den föds med information och kan framkalla fakta genom att tolka text till ny text.
Just förmågan till självmedvetenhet och subjektiv erfarenhet anser jag är en avgörande aspekt hos mänsklig intelligens och något som är helt frånvarande i de AI-modeller vi har sett hittills. Därför är det inte rättvist eller korrekt att jämföra intelligensen hos en person som anpassar sig till en sensorisk förlust med en AI som opererar utan sinnen.