Den stora tråden om filosofi

[blåvitt]

Ursprungligen postat av Yes

Nej, jag har ingen lust att redogöra för det. Det skulle kräva en mindre essä, mest övertyga dem som redan är övertygade, förstöra tråden med onödigt gräl och dessutom ta tid i anspråk från saker jag tycker är mycket mer intressanta att diskutera. För den som är intresserad är det bäst att bara läsa vad hon skrivit. Börja i den ände du är mest nyfiken på.


Om jag hamnade i handgemäng varje gång jag var förbannad skulle jag lappa folk på käften varje dag.

Har läst Atlastrilogin men finner den svårtolkad som annat än satir. Låg litterär nivå och John Galts tal verkar presentera ett än mer dystopiskt samhälle än det han redan lever i (som är nån slags absurd humorlös satir på socialism? Utan stor träffsäkerhet i så fall). Vad är det som lockar med samhället hon förespråkar? Kan ta det i PM om du inte vill förstöra tråden.

[Bob90]

Ursprungligen postat av svenbanan

Det var väl själva fan vad alla var humuristiska helt plötsligt!



Har ni kanske också sett strömmen gå fel väg genom en diod/transistor?

Apropå humor så är det ju kul att man fortfarande lär ut felaktiga strömriktningen. Teoretiska och faktiska är ju motsatser
Det spelar ju ingen roll så länge man är konsekvent med sin konvention, men ändå :p Rätt ska vara rätt!

[Yes]

Ursprungligen postat av wintersnowdrift

Jag råkade förolämpa min sambo grovt när han ville visa vad hans senaste algoritm åstadkommit och jag sa typ "men va, är den inte bättre än så?!". Och då hade han lyckats implementera ett av de nyaste forskningsresultaten. Så ja, vägen till Westworld är rätt lång, men som du säger är utvecklingen i det närmaste exponentiell och vi har egentligen ingen aning om hur världen ser ut om 10-20 år. Men, neurala nätverk är ju egentligen inte intelligenta, de blir bättre därför att vi får mer och mer data och mer och mer beräkningskraft. Det behövs även göras stora framsteg för själva algoritmerna om vi ska ta ytterligare steg mot "medvetna AI".

Ytterligare en sak vad gäller utvecklingen är att vi mycket väl kan vara på väg mot nästa stora steg för mänskligheten. AI kan revolutionera världen, men det är ännu i ett tidigt stadie. Det går trögt nu men skulle snart kunna explodera. Just därför som en hel del ganska smarta människor varnar för att det kan ske så snabbt att vi helt tappar kontrollen.

Neurala nätverk är ett smart sätt att behandla data och genom bakåtpropagering och beräkningskraft få datorer att göra mer avancerade saker - sådant som vore omöjligt att programmera manuellt. Ett steg i mer avancerad automatisering kanske man kan säga?
Finns dock flera andra tekniker, och kanske går de att kombinera? Här får jag först slänga in brasklappen att jag inte är tillräckligt smart för att förstå det på djupet, en riktig expert skulle kanske få tarmvred av det jag kommer skriva, men om vi målar en förenklad bild med en bred pensel...

Den mänskliga hjärnan skulle kunna digitaliseras. Signaler från neuroner översätts till ettor och nollor. Problemet är förstås att det är jättesvårt och kräver mycket beräkningskraft. Vidare har vi problem som att det finns olika typer av neuroner och deras signaler kan betyda olika saker beroende på sammanhang. När du tex tänker på din sambo aktiveras vissa neuroner, kanske i ett visst mönster och i en viss gruppering. Samma neuroner i ett annat sammanhang kanske betyder att du funderar på vad du ska laga till middag.
Så förutom att hjärnan har jättemassamånga neuroner, vars funktion kanske kan uttryckas binärt, har du flera olika sammanhang som är avgörande. Säg då att varje bit blir 2^n där n är antalet olika sammanhang (jag tror även såna modeller räknar på subkontexter, men jag förstår mig ännu inte riktigt på hur det fungerar).

Här blir det alltså snabbt väldigt tunga beräkningar som måste göras, vilket är långt ifrån trivialt.

En potentiell lösning för den typen av problem är kvantdatorer. En kvantdator kan utföra 2^n operationer simultant, där n är antalet kvantbitar. Tror IBM leder där med en processor som har 50 kvantbitar (qubits).

Annars kan man tänka sig att antalet beräkningar kan minskas med hjälp av andra tekniker. Kanske Bayesisk logik för att sortera ut relevanta neuroner efter sannolikhet beroende på kontext. Neurala nätverk med bakåtpropagering skulle kunna träna hjärnan till att fungera effektivare, utan att behöva utföra alla beräkningar. Kanske kan genetiska algoritmer hjälpa till ytterligare.

Genom något sådant, med reservation för tidigare brasklapp, skulle det kanske gå att bygga en maskin med generell intelligens.

För att återknyta till det filosofiska:

Skulle en generell intelligens av tillräckligt hög nivå vara självmedveten?

Antag att så är fallet, vad är implikationerna av att det är eller inte är en levande varelse?

[Klein]

Ursprungligen postat av blåvitt

Har läst Atlastrilogin men finner den svårtolkad som annat än satir. Låg litterär nivå och John Galts tal verkar presentera ett än mer dystopiskt samhälle än det han redan lever i (som är nån slags absurd humorlös satir på socialism? Utan stor träffsäkerhet i så fall). Vad är det som lockar med samhället hon förespråkar? Kan ta det i PM om du inte vill förstöra tråden.

Böckerna handlar främst om Ayn Rands sexualitet och den i hennes ögon ideale mannen.

[blåvitt]

Ursprungligen postat av Klein

Böckerna handlar främst om Ayn Rands sexualitet och den i hennes ögon ideale mannen.

Hahah va? Nog för att det är inbakat men hur handlar det främst om det?

[BelowAverage]

Ursprungligen postat av Yes

För att återknyta till det filosofiska:

Skulle en generell intelligens av tillräckligt hög nivå vara självmedveten?

Antag att så är fallet, vad är implikationerna av att det är eller inte är en levande varelse?

Jag förstår inte riktigt varför man gärna vill knyta samman liv och medvetande som om de måste existera tillsammans? Speciellt märkligt blir det när vi sitter och dömer vad som är gott nog att anses ha ett medvetande eller ett liv.
Liv är väl hur vi utvecklas som art och vi verkar drivas till att utvecklas och fortplanta oss genom olika imperativ vi inte själva väljer, vi bara upplever dem och får sedan hantera dem bäst vi kan.
Medvetandet tror jag har mer att göra med imperativen än vad faktumet att vi fortplantar oss har. Dvs finns *något* som interagerar med och lär sig av världen men med helt andra imperativ än oss så skulle jag klassa det som ett medvetande. Motiven skulle kunna vara vad som helst egentligen, det är ett beteende och en förmåga det handlar om snarare än vad *jag* eller *vi* tycker är ett värdigt beteende eller en värdig förmåga. Var ska man annars dra gränsen?
Kort sagt, kan man inte dra en gräns så har man något godtyckligt och då blir svaret: "jag har ett medvetande för att jag tycker att jag har det, andra har det inte om jag inte tycker de har det". Det svaret håller inte vatten.

En AI som skapar metoder att urvinna elektricitet som den sedan livnär sig på, är den mindre medvetande än mig för att den saknar cellförbränning och därför inte har gagn av att odla vete? Är hamburgare ett mer värdigt drivmedel än elektricitet?
Om den bygger en förbättrad kopia av sig själv som bygger förbättrade kopior av sig själv, är den plötsligt levande då? Eller måste man blanda DNA med varandra för att anses levande?
Liv som definition verkar ju återkoppla till biologi, skulle man kunna skapa robotar som kan interagera och lära sig av sin miljö och kunna utveckla sig själva till nya variationer så skulle jag tycka det är liv, men det vore en helt annan livsform än vad vi är och den skulle ju inte kunna anses ha en biologi, iaf inte enligt hur vi ser på biologi idag.

Jag upplever att vi snöat in oss väldigt mycket på att kräva att liv och medvetande är som vi, ju mer likt desto mer levande eller bättre medvetande. Det är en definition jag klinschar med för att jag tycker definitioner bör vara enklare, mer som du skrev tidigare: att kunna interagera och lära sig av sin miljö - ändrar man sitt beteende från ett till ett annat så tycker jag det är ett tecken på introspektion. Det är iaf det enda observerbara "beviset" för introspektion jag kan komma förutom just att prata om sig själv med någon.

För att svara på dina frågor, en med fråga och en med svar:

Vad är en intelligens av tillräckligt hög nivå? Att kunna bearbeta en enorm mängd data, kanske? Vilken data? Synintryck, dofter och smaker? Sökningar på google? Jag tror att något skulle kunna hantera enorma mängder data på ett till synes intelligent vis, utan att vi kan påvisa en självmedvetenhet. Våra datorer är redan där imo, och det är väl fortfarande rätt svårt att bevisa att någon annan än en själv upplever något. Men nog känns det rimligare att andra människor gör det än datorer.

Implikationerna av att något har ett medvetande men inte är levande så som vi definierar det, är att ett sådant medvetande sannolikt skulle ha helt andra drivkrafter, tolkningar och mål än vad vi har. Vi kanske inte ens skulle se dess intelligenta beteende om det så var mitt framför ögonen för oss, för oss skulle det te sig som meningslöst eller slump, kanske.

[wintersnowdrift]

Ursprungligen postat av Yes

Ytterligare en sak vad gäller utvecklingen är att vi mycket väl kan vara på väg mot nästa stora steg för mänskligheten. AI kan revolutionera världen, men det är ännu i ett tidigt stadie. Det går trögt nu men skulle snart kunna explodera. Just därför som en hel del ganska smarta människor varnar för att det kan ske så snabbt att vi helt tappar kontrollen.

Neurala nätverk är ett smart sätt att behandla data och genom bakåtpropagering och beräkningskraft få datorer att göra mer avancerade saker - sådant som vore omöjligt att programmera manuellt. Ett steg i mer avancerad automatisering kanske man kan säga?
Finns dock flera andra tekniker, och kanske går de att kombinera? Här får jag först slänga in brasklappen att jag inte är tillräckligt smart för att förstå det på djupet, en riktig expert skulle kanske få tarmvred av det jag kommer skriva, men om vi målar en förenklad bild med en bred pensel...

Den mänskliga hjärnan skulle kunna digitaliseras. Signaler från neuroner översätts till ettor och nollor. Problemet är förstås att det är jättesvårt och kräver mycket beräkningskraft. Vidare har vi problem som att det finns olika typer av neuroner och deras signaler kan betyda olika saker beroende på sammanhang. När du tex tänker på din sambo aktiveras vissa neuroner, kanske i ett visst mönster och i en viss gruppering. Samma neuroner i ett annat sammanhang kanske betyder att du funderar på vad du ska laga till middag.
Så förutom att hjärnan har jättemassamånga neuroner, vars funktion kanske kan uttryckas binärt, har du flera olika sammanhang som är avgörande. Säg då att varje bit blir 2^n där n är antalet olika sammanhang (jag tror även såna modeller räknar på subkontexter, men jag förstår mig ännu inte riktigt på hur det fungerar).

Här blir det alltså snabbt väldigt tunga beräkningar som måste göras, vilket är långt ifrån trivialt.

En potentiell lösning för den typen av problem är kvantdatorer. En kvantdator kan utföra 2^n operationer simultant, där n är antalet kvantbitar. Tror IBM leder där med en processor som har 50 kvantbitar (qubits).

Annars kan man tänka sig att antalet beräkningar kan minskas med hjälp av andra tekniker. Kanske Bayesisk logik för att sortera ut relevanta neuroner efter sannolikhet beroende på kontext. Neurala nätverk med bakåtpropagering skulle kunna träna hjärnan till att fungera effektivare, utan att behöva utföra alla beräkningar. Kanske kan genetiska algoritmer hjälpa till ytterligare.

Genom något sådant, med reservation för tidigare brasklapp, skulle det kanske gå att bygga en maskin med generell intelligens.

För att återknyta till det filosofiska:

Skulle en generell intelligens av tillräckligt hög nivå vara självmedveten?

Antag att så är fallet, vad är implikationerna av att det är eller inte är en levande varelse?

Detta inlägg skapade en mycket intressant diskussion kring vårt middagsbord ikväll

För det första fick jag en hel del mothugg gällande mitt påstående att regleringar kring framtida teknik bör växa dynamiskt i takt med tekniken. Enligt min sambo, dig, och lite andra smartisar så kommer en sådan parallell utveckling (som man väl ändå får säga att vi har haft hittills gällande t.ex. övergången från hästar till motorfordon) att vara för långsam. Om tekniken får utvecklas "hejvilt" så kommer det leda till ett enormt gap mellan den som har kraftfull AI och den som inte har det. Dagens kärnvapen kommer framstå som triviala i jämförelse (ok nu överdriver jag, men kärnvapen är i dagsläget ffa en skrämselmetod medan AI kan användas i konkreta, vardagliga situationer för att skaffa sig makt över andra människor). Max Tegmark pratade ju om detta i sitt sommarprat t.ex. (jag tyckte dock att han namedroppade Elon Musk lite för ofta för att kunna ta hans övriga snack helt seriöst). Jag får backa och säga: vi måste nog faktiskt klura på detta och iaf försöka ligga steget före även om det är närapå omöjligt.

Angående att digitalisera hjärnan så kommer det antagligen att bli möjligt. Kvantdatorer du nämner är ju i sin linda och likaså algoritmerna som kan utnyttja kraften i dessa. Dock är frågan om det är nödvändigt att skapa just en artificiell mänsklig hjärna, annat än i strikt akademiskt syfte? Om nu medvetande är självupplevt, så kommer vi ändå inte att veta om denna artificiella hjärna verkligen är medveten i dess filosofiska definition. Däremot kommer vi att kunna observera dess beteende, och det räcker i princip att skapa ett AI som agerar ur egenintresse för att nå en slippery slope mot AI som åtminstone kan upplevas som medvetna. Det kanske börjar med självkörande bilar som själva letar upp en bensinstation och tankar, och i förlängningen börjar prioritera det över människors trafiksäkerhet? För att inte tala om vad AI kan göra i militära sammanhang, där utvecklingen säkerligen också går snabbast. Och här sitter vi i en värld som just nu styrs av joppar som Trump, Putin och Kim. Häpp... Jag tänker att det moraliska dilemmat kring hur vi betraktar/behandlar framtida AI nog är mindre än det kring hur AI kommer att behandla oss människor.

[wintersnowdrift]

Ursprungligen postat av BelowAverage

Vad är en intelligens av tillräckligt hög nivå? Att kunna bearbeta en enorm mängd data, kanske? Vilken data? Synintryck, dofter och smaker? Sökningar på google? Jag tror att något skulle kunna hantera enorma mängder data på ett till synes intelligent vis, utan att vi kan påvisa en självmedvetenhet. Våra datorer är redan där imo, och det är väl fortfarande rätt svårt att bevisa att någon annan än en själv upplever något. Men nog känns det rimligare att andra människor gör det än datorer.

Grejen med dagens datorer/algoritmer är att de inte har det som brukar kallas generell intelligens. En välutvecklad machine learning-algoritm är t.ex. bildigenkänning. Det innebär att en dator i princip kan känna igen vilken bil som helst, därför att den matats med tusentals och åter tusentals bilder på olika bilar. Den har tränats till att förstå hur en bil ser ut och är bättre än dig på att skilja en Lambo från en Ferrari. Ger du den däremot en bild på en elefant så kanske den säger "80 % sannolikhet för att detta är en Chevrolet Tahoe". Den har inte generell intelligens.

Algoritmerna utvecklas ju dock också, ffa de som brukar kallas "unsupervised learning" där input inte innehåller något facit, utan man låter bara algoritmen själv söka efter mönster i data. Det är antagligen här vägen mot generell intelligens finns, men det är på en rätt basic nivå ännu.

[Angel]

Filosofisk zombie.

[BelowAverage]

Wsd: jag antar att man med generell intelligens menar en intelligens som klarar att analysera sådana sammanhang vi klarar att analysera?
Ser du vart jag är på väg? Vi vet inte våra egna kognitiva brister. Vi vet inte vart våra tankar eller vår vilja kommer ifrån. Vi kan inte se alla våglängder av ljus. Vi kan inte bearbeta samma mängd data som en dator, iaf av vissa typer. Jag säger igen: varför ska just våra förmågor stå mall för vad som är ett medvetande eller en intelligens? Även vi har begränsningar, uppenbarligen. Skillnaden tycker jag verkar ligga i att vi tycker vår förmåga är förmer.
Jag är med på att AI:s inte besitter mänsklig bredd (ännu).
Om vi säger så här: om gränsen för medvetande är att vara den bredaste och mest kraftfulla intelligens vi känner till, skulle människor ens räknas som medvetna i en hypotetisk framtid med extremt avancerad AI? Min poäng jag försöker göra är att det borde rimligtvis handla om att uppfylla kritier, inte att vara det skarpaste vi kan observera, för att klassas som medvetande. I dagsläget verkar medvetande = mänskligt medvetande, för vi klarar inte ens att föreställa oss ett medvetande som har helt andra imperativ. Vi klarar inte att värdera ett sådant medvetande - fast det kanske uppfyller sina egna imperativ alldeles utmärkt, uppfyller det inte våra imperativ så är det inte att medvetande eller ett starkt medvetande.
Antingen har man förmåga att tolka data eller inte. Har man det så blir väl som du säger nästa fråga: hur mångsidigt kan man göra det. Eller så skulle man kunna fråga hur mycket data som kan hanteras. Vad som är viktigast återkommer imo till vad intelligensen har för imperativ.

[MaxTheMarketer]

Som tidigare sagt så oroar jag mig mest för AI när det har börjat implementerats i militära vapensyften. Då finns risker för missbedömningar/dåligt programmerad AI som kanske skjuter ned något lands flygfordon helt oprovocerat vilket kan leda till "rättfärdigade" motangrepp som i sin tur kan eskaleras i värsta fall till krig som avslutas med kärnvapen eller något saftigt biologiskt/kemiskt vapen?

AI i någon chattrobot eller självstyrande bil? Geez. Lycka till att ta över den mänskliga världen chattrobot eller självstyrande bil! Vad gör du när du får slut på elektricitet eller soppa och inte kan fixa nytt på egen hand?

AI i vapen? Ett misstag och BOOM kan det säga i en snabb upptrappning på grund av en dålig AI i ett kraftfullt vapen! AI i vapen är det farligaste än så länge imho, inte kommande SkyNet så att Anorld Schwarznegger från framtiden måste komma och rädda oss.

Btw, håll nu god nivå nu här på tal om robotar: vad anser ni om "sexrobotar" eller "robotmässiga partners" som vissa väljer att leva med istället för en av samma eller motsatta kön?

Är det oetiskt och dålig moral att välja robot för sex å kärlek framför människor oavsett vad eller är det bra i samband med lägre födelsetal runtom i världen för att minska en annars exploderande population?

[Vinter]

Ursprungligen postat av BelowAverage

Wsd: jag antar att man med generell intelligens menar en intelligens som klarar att analysera sådana sammanhang vi klarar att analysera?
Ser du vart jag är på väg? Vi vet inte våra egna kognitiva brister. Vi vet inte vart våra tankar eller vår vilja kommer ifrån. Vi kan inte se alla våglängder av ljus. Vi kan inte bearbeta samma mängd data som en dator, iaf av vissa typer. Jag säger igen: varför ska just våra förmågor stå mall för vad som är ett medvetande eller en intelligens? Även vi har begränsningar, uppenbarligen. Skillnaden tycker jag verkar ligga i att vi tycker vår förmåga är förmer.
Jag är med på att AI:s inte besitter mänsklig bredd (ännu).
Om vi säger så här: om gränsen för medvetande är att vara den bredaste och mest kraftfulla intelligens vi känner till, skulle människor ens räknas som medvetna i en hypotetisk framtid med extremt avancerad AI? Min poäng jag försöker göra är att det borde rimligtvis handla om att uppfylla kritier, inte att vara det skarpaste vi kan observera, för att klassas som medvetande. I dagsläget verkar medvetande = mänskligt medvetande, för vi klarar inte ens att föreställa oss ett medvetande som har helt andra imperativ. Vi klarar inte att värdera ett sådant medvetande - fast det kanske uppfyller sina egna imperativ alldeles utmärkt, uppfyller det inte våra imperativ så är det inte att medvetande eller ett starkt medvetande.
Antingen har man förmåga att tolka data eller inte. Har man det så blir väl som du säger nästa fråga: hur mångsidigt kan man göra det. Eller så skulle man kunna fråga hur mycket data som kan hanteras. Vad som är viktigast återkommer imo till vad intelligensen har för imperativ.

Vad jag har förstått efter att pratat med lite elever på KTH är perception är det stora problemet. Det rent mekaniska är det mindre problemet.

Du vill få AI i en robot att öppna dörrar. Först måste AI identifiera dörren, sedan måste AI identifiera mekanismen som öppnar dörren. Problemet är att vi människor kan ögonblickligen identifiera vad som är en dörr och vilken typ av öppningsanordning. Men dörrar kan se väldigt olika ut, och öppningsmekanismen kan vara skjuta framåt/bakåt, vrida handtag, snurra på handtag, skjuta dörr åt sidan osv. Plötsligt ökar variablerna. De flesta människor kan lära sig gå igenom en svängdörr genom att observera någon annan använda dörren några sekunder. För en AI måste först identifiera det som en "dörr" och sedan adaptera det mekaniska.

Samma problem om du vill att ett AI ska sitta i stolar, bara konceptet att sitta på saker är svårt nog. Identifiera allt vi kallar stolar och objekt du kan sitta på är en djupare problem. Dock något ett barn klarar på några sekunder.

Självkörande bilar är egentligen ett enklare problem eftersom det finns uppsatta regler och klara gränser. Dock att få en självkörande bil att ta en genväg över en gräsplätt som inte är en väg med klara regler, är extremt svårt.

Imperativ, ja det beror helt på vad du lagt in i systemet. Det skulle vara intressant att se hur en av googels bilar hanterar en nyligen översvämmad sänktunnel. Vi identifierar snabbt om det är för djupt eller bara en vattensamling. Programmera bilen att identifiera skillnaden kan vara ett stort problem.

Jag är inte så orolig för AI ännu, den mänskliga faktorn ett större problem i dagsläget i min mening.

[Klein]

Ursprungligen postat av blåvitt

Hahah va? Nog för att det är inbakat men hur handlar det främst om det?

Jo det är vad hon primärt utforskade som författare. Men det fattar inte vänstermänniskor.

[blåvitt]

Ursprungligen postat av Klein

Jo det är vad hon primärt utforskade som författare. Men det fattar inte vänstermänniskor.

Istället för att i vanlig ordning bara påstå en massa saker kan du kanske försöka argumentera för dem också?

[Klein]

Ursprungligen postat av blåvitt

Istället för att i vanlig ordning bara påstå en massa saker kan du kanske försöka argumentera för dem också?

Det är hur jag själv tolkade böckerna när jag läste dem för många år sedan och hon har även själv bekräftat den bilden:

Rand's self-declared purpose in writing fiction was to project an "ideal man"—a man who perseveres to achieve his values, even when his ability and independence leads to conflict with others.

https://en.wikipedia.org/wiki/Randian_hero