Den stora tråden om filosofi

[wintersnowdrift]

Ursprungligen postat av BelowAverage

Wsd: jag antar att man med generell intelligens menar en intelligens som klarar att analysera sådana sammanhang vi klarar att analysera?
Ser du vart jag är på väg? Vi vet inte våra egna kognitiva brister. Vi vet inte vart våra tankar eller vår vilja kommer ifrån. Vi kan inte se alla våglängder av ljus. Vi kan inte bearbeta samma mängd data som en dator, iaf av vissa typer. Jag säger igen: varför ska just våra förmågor stå mall för vad som är ett medvetande eller en intelligens? Även vi har begränsningar, uppenbarligen. Skillnaden tycker jag verkar ligga i att vi tycker vår förmåga är förmer.
Jag är med på att AI:s inte besitter mänsklig bredd (ännu).
Om vi säger så här: om gränsen för medvetande är att vara den bredaste och mest kraftfulla intelligens vi känner till, skulle människor ens räknas som medvetna i en hypotetisk framtid med extremt avancerad AI? Min poäng jag försöker göra är att det borde rimligtvis handla om att uppfylla kritier, inte att vara det skarpaste vi kan observera, för att klassas som medvetande. I dagsläget verkar medvetande = mänskligt medvetande, för vi klarar inte ens att föreställa oss ett medvetande som har helt andra imperativ. Vi klarar inte att värdera ett sådant medvetande - fast det kanske uppfyller sina egna imperativ alldeles utmärkt, uppfyller det inte våra imperativ så är det inte att medvetande eller ett starkt medvetande.
Antingen har man förmåga att tolka data eller inte. Har man det så blir väl som du säger nästa fråga: hur mångsidigt kan man göra det. Eller så skulle man kunna fråga hur mycket data som kan hanteras. Vad som är viktigast återkommer imo till vad intelligensen har för imperativ.

Vinter skrev ett bra svar, men jag vill tillägga att "generell intelligens" inte syftar på att människan skulle vara det intelligentaste som går att uppbåda. Snarare tvärt om. Men, förmågan att hantera stora datamängder på sättet som en dator gör är i sig inte intelligent om det inte kan kombineras med förmågan att se sammanhang och lösa problem som den inte ställts inför tidigare. Lite som att det är en tålamodsprövande skill att kunna räkna till en miljon, men det kräver inte mer intelligens än att lära sig räkna till tio (och därmed förstå hur talsystemet hänger ihop).

Ursprungligen postat av MaxTheMarketer

Som tidigare sagt så oroar jag mig mest för AI när det har börjat implementerats i militära vapensyften. Då finns risker för missbedömningar/dåligt programmerad AI som kanske skjuter ned något lands flygfordon helt oprovocerat vilket kan leda till "rättfärdigade" motangrepp som i sin tur kan eskaleras i värsta fall till krig som avslutas med kärnvapen eller något saftigt biologiskt/kemiskt vapen?

AI i någon chattrobot eller självstyrande bil? Geez. Lycka till att ta över den mänskliga världen chattrobot eller självstyrande bil! Vad gör du när du får slut på elektricitet eller soppa och inte kan fixa nytt på egen hand?

AI i vapen? Ett misstag och BOOM kan det säga i en snabb upptrappning på grund av en dålig AI i ett kraftfullt vapen! AI i vapen är det farligaste än så länge imho, inte kommande SkyNet så att Anorld Schwarznegger från framtiden måste komma och rädda oss.

Btw, håll nu god nivå nu här på tal om robotar: vad anser ni om "sexrobotar" eller "robotmässiga partners" som vissa väljer att leva med istället för en av samma eller motsatta kön?

Är det oetiskt och dålig moral att välja robot för sex å kärlek framför människor oavsett vad eller är det bra i samband med lägre födelsetal runtom i världen för att minska en annars exploderande population?

Du kan inte separera AI i en chatbot eller självkörande bil från AI som används i det militära. När tekniken väl finns så kan en självkörande bil bli ett massförstörelsevapen.

Angående födelsetalen så minskar de redan. Vi går inte mot en exploderande population. Anledningen till att antalet människor i världen ökar är inte för att det föds många barn idag, utan för att det föddes många barn för 10-20-30 år sedan. Världens population kommer att öka därför att vi får fler vuxna än idag, men i takt med att det ekonomiska välståndet ökar så föder människor färre barn och populationen kommer så småningom att stabiliseras.

[Akerhage]

Jag ligger inte riktigt på samma nivå som övriga i tråden. Mitt intresse till filosofi yttrar sig bara i mina egna flummiga tankar. Jag har noll koll på vilka döda gubbar man skall ha läst osv för att förstå allt. Dock har jag väldigt mycket tankar som snurrar, mycket existensiella frågor som jag aldrig kommer få svar på. Som stör mig.

En tanke jag fick inatt:
Vilka djur har medvetande utöver människan? Eller är det bara vi? Kan medvetande finnas utan ett språk? Eller är det tack vare att vi människor har ett språk som vi kan ha ett medvetande?

Jag tänker att om man inte har ett språk så borde allt tolkas i känslor? Bara att vi sätter ord på känslorna? (Ex kärlek, hat, svartsjuka, oro, hunger osv). Jag antar att känslor är lika för alla? Ex oro/ängslan bör kännas likadant för mig som för dig? Kärlek, hat, hunger likaså? Kanske är man medveten bara för man kan känna känslor? Man behöver inget språk isf? (Bara flum, så bemöda er inte i onödan för att svara, följer tråden med intresse)

[xan]

Jag skulle tro att döva människor tänker i bilder, kanske gör djur (inb4 människan är också ett djur ) också det. En hungrig tiger visualiserar en köttbit och hör sitt egna vrål i huvudet. Men hur tänker man om man är både döv och blind?

[Akerhage]

Ursprungligen postat av xan

Men hur tänker man om man är både döv och blind?

Detta är mycket intressant, någon som har ett bra svar?

[blåvitt]

Ursprungligen postat av Akerhage

Jag ligger inte riktigt på samma nivå som övriga i tråden. Mitt intresse till filosofi yttrar sig bara i mina egna flummiga tankar. Jag har noll koll på vilka döda gubbar man skall ha läst osv för att förstå allt. Dock har jag väldigt mycket tankar som snurrar, mycket existensiella frågor som jag aldrig kommer få svar på. Som stör mig.

En tanke jag fick inatt:
Vilka djur har medvetande utöver människan? Eller är det bara vi? Kan medvetande finnas utan ett språk? Eller är det tack vare att vi människor har ett språk som vi kan ha ett medvetande?

Jag tänker att om man inte har ett språk så borde allt tolkas i känslor? Bara att vi sätter ord på känslorna? (Ex kärlek, hat, svartsjuka, oro, hunger osv). Jag antar att känslor är lika för alla? Ex oro/ängslan bör kännas likadant för mig som för dig? Kärlek, hat, hunger likaså? Kanske är man medveten bara för man kan känna känslor? Man behöver inget språk isf? (Bara flum, så bemöda er inte i onödan för att svara, följer tråden med intresse)

Filosofiska rummet släppte ett mycket bra avsnitt om detta under försommaren. Det jag tog med mig är att ett medvetande är synnerligen okomplext, finns det ett aktivt agerande så finns det medvetande. Nöten är självmedvetande, där man är medveten om sitt eget medvetande och det blir något man reflekterar och analyserar. Medvetande är känslobaserat (och instinkt) medan det mycket väl kan vara så att vårt självmedvetande formas av språket (små barns självmedvetande växer till viss del fram i samma takt med att de lär sig att behärska språket och att de genom språket börjar definiera sig själva i relation till andra. Ja, det är vad jag kände att jag landade i efter att lyssna på programmet men jag rekommenderar att du lyssnar själv då det spekuleras åt många håll

[3bz]

Definitioner av olika typerav medvetande i akademiska sammanhang har varit ganska klara sen slutet av 90-talet. Enklaste indelningen är: Primary, secondary och self-consciousnes/awarenes.

Primärt innebär helt enkelt att en organism kan uppleva något alls. Sekundärt betyder förenklat att att organismen kan leva utanför det direkt upplevada, genom att t.ex. erinnra eller relflektera över sina upplevelser. Self-consciousness/awareness är precis vad det låter som, att organismen uppfattar själv själv som en organism fristående från världen och andra oragnismer.

Så man kanske bör ha den indelningen i åtanke innan man ställer en fråga om vad för organismer som "besitter" medvetande. Observera att jag här inte anser att detta förklarar något alls, det är bara en indelning som är bra att göra för att undvika missförstånd i diskussioner angående medvetande.

Källa: Pluggade medveteandestudier 3år (ja det finns och det är seriöst).

ETA: Om man är intresserad så är Güven Güzelderes inledande kapitel i The Nature of Consciousness: Philosophical Debates den bästa överblicken som finns (iaf enligt mig) när det gäller den filosofiska apsekten av medvetandestudier. Den är väldigt lättläst och bra skriven också. Givetvis finns det nyare skrifter, men den är en bra grund.


Gällande AI så är jag överraskad att ingen nämnt "alignment problem" än, det är ju det mest intressanta (iaf långsiktigt) om man talar om eventuella hot från AI.

Vad man än tycker om Yudkowsky så är denna presentation värd att se (kunde inte hitta någon bra video med Boström, sen är hans engelska så jobbig att lyssna på också):

[xan]

Ursprungligen postat av Akerhage

Detta är mycket intressant, någon som har ett bra svar?

Kanske är det baserat på känsel?

Objekt som en döv och blind människa känt på under livet borde kunna visualiseras i huvudet på ett ungefär (ELLER?). Så när man är hungrig kanske man visualiserar formen av en tallrik som man känt på hundratals gånger och hur en bit bröd känns i handen. I så fall undrar jag vilka färger man ger alla former i sitt huvud? Färger har man ju inte heller sett. Eller svart mörker borde man väl "se" eftersom att man inte kan.. se?

Sedan kanske det också går att visualisera sinnen som smak och lukt på något sätt. En äcklig lukt man känt går ju inte att artikulera i ord (mer specifikt än bara "äcklig lukt" alt att man kopplar till en annan lukt) eller visualisera som bild. Trots det minns man. Det borde en döv/blind person kunna också. Samma logik bör gälla smak, tänker jag.

[BelowAverage]

Vinter / wsd: jag är med på vad ni menar, hoppas jag. Jag utforskar lite idéer nu och kör nog delvis lite djävulens advokat.

Ja "bredd" är intelligens och simpla saker som dörrar är ju inte alls simpla att definiera exakt - men med våra förmågor så är de simpla. Tanken jag leker med är att vi har kognitiva brister och lever mycket i våra imperativ, jag tror vi skulle ha kunna väldigt svårt att upptäcka / erkänna andra sorters intelligens som enligt sina egna imperativ klarar av uppgifter som skulle vara allt annat än simpla för oss.
Det blir lite fegt och kanske att jag säger "det finns ingen objektiv intelligens", och det känns som en ful väg att gå.

Det svåra med AI är att den alltid utgår från människor. Det är lättare att tänka Aliens som tankeexperiment de skulle kunna ha helt andra förmågor och imperativ och därmed fungera väldigt annorlunda men ändå vara intelligenta. Svårt att bevisa. Men det är inte så lätt att bevisa självmedvetenhet heller.

3bz steg av definitioner känns lättare att tillämpa då.
Sen, definiera uppleva. Kan en dator observera och agera på visuella intryck så anser jag att det är att uppleva dem primärt.
Kan den bearbeta upplevd data över en tid i efterhand och planera för framtiden därefter tänker jag man skulle kunna kalla det sekundär?
Och hur man bevisar självmedvetenhet vet jag inte. Grejen med datorer är att man kan säga att de bara följer sin kod och reagerar med Y svar på X stimuli. Dock kan man lägga samma argument mot människor vilket är vad jag gör, det är svårt att svart på vitt bevisa självmedvetenhet för det är väl en känsla? Att ändra sitt beteende utefter stimuli den förändringen kan vi ju dock se.

[Akerhage]

Ursprungligen postat av xan

I så fall undrar jag vilka färger man ger alla former i sitt huvud? Färger har man ju inte heller sett. Eller svart mörker borde man väl "se" eftersom att man inte kan.. se?

Kan en blindfödd människa drömma i bilder/färger kanske? Eller är även drömmarna svarta?

[xan]

Ursprungligen postat av Akerhage

Kan en blindfödd människa drömma i bilder/färger kanske? Eller är även drömmarna svarta?

Jag antar det, olika nyanser av svart?

Hur ska en blindfödd människa kunna veta hur färger se ut? Kanske man man hitta på egna färger?

[3bz]

Ursprungligen postat av xan

Kanske är det baserat på känsel?

Objekt som en döv och blind människa känt på under livet borde kunna visualiseras i huvudet på ett ungefär (ELLER?). Så när man är hungrig kanske man visualiserar formen av en tallrik som man känt på hundratals gånger och hur en bit bröd känns i handen. I så fall undrar jag vilka färger man ger alla former i sitt huvud? Färger har man ju inte heller sett. Eller svart mörker borde man väl "se" eftersom att man inte kan.. se?

Sedan kanske det också går att visualisera sinnen som smak och lukt på något sätt. En äcklig lukt man känt går ju inte att artikulera i ord (mer specifikt än bara "äcklig lukt" alt att man kopplar till en annan lukt) eller visualisera som bild. Trots det minns man. Det borde en döv/blind person kunna också. Samma logik bör gälla smak, tänker jag.

Du får nog börja att definiera vad du menar med att tänka, lite svårt att svara på annars.

Men rent generellt så har givetvis de som är t.ex. blinda från födseln en helt annat upplevelse av världen, konstigt vore det annars. Det som är intressant är ju att vid sk. sensory substitution, där man genom t.ex. självgenererade klickljud kan bygga upp någon form av representation (kanske inte i bokstavlig mening) som gör att de kan nagivera i världen. Samm princip används ju numer med devices som kodar visuell information i ljud eller stimulering av t.ex. tungan (direkt invasiv stimulering av hjärnan finns ju också givetvis).

Frågan här blir ju då hur de upplever saker och ting. Det är en väldigt grundläggande fråga, om man tar någon som är blind från födseln och aldrig fått information till visual cortex via ögonen, har de möjligheten att verkligen "se" världen i 3d? Svårt att svara på, har för mig det finns studier där de kollar drömmar hos blinda och att det där finns antydningar att de iaf har upplevelser som pekar på att de iaf har någon primitiv form av upplevelse av 3d värld med struktur. Men blir ju svårt att verifiera iom att de aldrig haft den "riktiga" upplevelsen av att se världen.

Sen finns det ju de som blivit blinda senare och där är det väl lite intressantare, deras egna rapporter kan man väl tro på mer isf. Kommer inte ihåg namnet på kvinnan ifråga, men hon började iaf använda en sensory substituion device som man kodar visuell info från en kamera i en ljudström. Hennes claim är att hon efter en viss tid (vet inte hur länge) faktiskt började se på riktigt, i 3d, igen.

För mig känns det iaf inte så underligt att det genom evolutionen har byggs in vissa väldigt basala mekanismer i hjärnan och att en av dessa är en förmåga att skapa en inre modell av den yttre världen. Eftersom världen (så vitt vi vet givetvis) är i 3d så är det möjligt att den inre modellen som default är satt upp för 3d och att vissa upplevelser relaterat till detta är möjligt att ha utan att faktiskt ha fått visuella intryck från världen.

Ursäkta, slarvigt skrivit av mig, men går säkert förstå. Orkar inte heller leta källor nu, var många år sen jag kollade upp dessa saker sist. Men blev lite nyfiken så var tvungen att söka lite snabbt... så är har du en studie på de som är födda blinda: Visual imagery without visual perception?

Tydligen kan de som är blinda sen födseln rita av saker de drömt om, intressant. Ritar ungefär lika bra som mig.

Finns säkert många nyare studier gällande detta, pröva sök "congenitally blind" AND "mental imagery" t.ex.

[Vinter]

Ursprungligen postat av BelowAverage

Vinter / wsd: jag är med på vad ni menar, hoppas jag. Jag utforskar lite idéer nu och kör nog delvis lite djävulens advokat.

Ja "bredd" är intelligens och simpla saker som dörrar är ju inte alls simpla att definiera exakt - men med våra förmågor så är de simpla. Tanken jag leker med är att vi har kognitiva brister och lever mycket i våra imperativ, jag tror vi skulle ha kunna väldigt svårt att upptäcka / erkänna andra sorters intelligens som enligt sina egna imperativ klarar av uppgifter som skulle vara allt annat än simpla för oss.
Det blir lite fegt och kanske att jag säger "det finns ingen objektiv intelligens", och det känns som en ful väg att gå.

Det svåra med AI är att den alltid utgår från människor. Det är lättare att tänka Aliens som tankeexperiment de skulle kunna ha helt andra förmågor och imperativ och därmed fungera väldigt annorlunda men ändå vara intelligenta. Svårt att bevisa. Men det är inte så lätt att bevisa självmedvetenhet heller.

När jag menar AI som jag är orolig/paraniod över, är det mer systembaserad AI med internet access jag menar. Det är vad man skulle kalla ett AIs hemmaplan. Kan tänka mig nån överintelligent människa likt unabombaren programmera ett självlärande AI med med ett diaboliskt grundläggande etik koncept. Som tar över signalsystemet på lokaltrafikens tågnät, eller flygtrafik signaler. Vad vet jag. Där har ett rogue AI kanske ett övertag över oss.

Jag vet dock inte hur man definierar digital intelligens. Skulle vara smått jobbigt att lära ett AI konceptet "lagom".

[MaxTheMarketer]

Hur skulle ni bedöma er "megacognition"? https://en.wikipedia.org/wiki/Metacognition

Dvs., "Metakognition är de tankeprocesser som handlar om ens egna tankeprocesser. Det innebär att man är medveten om en del av sina egna tankar. Man kan likt en inre handledare undersöka hur de egna tankarna angriper ett problem, bedöma hur bra det går och styra dem om de skenar iväg eller kommer in på ett ofruktbart spår."

Källa: https://sv.wikipedia.org/wiki/Metakognition

Personligen upplever jag att jag har fått en mycket bättre metakognition tack vare skeptisk podcast och ren allmän mognad som människa i takt med ökad ålder.

De flesta skulle jag dock, med självutnämnd hybris, vilja påstå har låg nivå metakognition och är troligen också helt omedvetna om att de har det och (unconscious incompetence) så de har aldrig "fått tanken" om att förbättra den. Däremot bör alla få insikten att de kan förbättra den så fort de inser att de har en sådan förmåga! (conscious incompetence)

Vad är era "filosofier" och era allmänna tankar om "tankeprocesser om ens egna tankeprocesser"? Det är alltid kul med all slags metafysik om ni frågar mig!

[Akerhage]

Vad tror ni händer när man dör? Är det tack och hej då?

Själv tror jag lite att man kommer till någon själslig plats. Att man blir någon form av energi i universum. Där är man "i nuet". Dvs tid finns inte där, man kanske färdas själv i ljusets hastighet och då upplever man inte tiden.

10/100/1000/10000-tals år kan gå utan att man upplever det som någon egentlig tid. Sedan kanske man kastas ner på jorden igen för att lära sig saker eller utvecklas. Tror också man kommer få ett "Aha, är jag här"-upplevelse när man kommer till den här platsen. Man kommer veta att man varit där innan.
Tror inte att döden är slutet för "mig".

Spännande se hur ni andra här tror på döden och ett möjligt efterliv.

[Baldr]

Ursprungligen postat av Akerhage

Vad tror ni händer när man dör? Är det tack och hej då?

Christof Koch har gjort mycket intressant på ämnet. Tror själv på teorin om att medvetandet baseras på impulser i våra nervceller och när du dör så slutar impulserna. Allt tar abrupt slut och det kommer åter vara som innan du föddes.