Den stora AI-tråden - Sidan 11 - Kolozzeum Forum

tomten1 · 2024-10-03, 07:56

Citat:

Ursprungligen postat av PixelMiner

Den här tjejen har ungefär samma syn på AI som jag

Hon babblar på bra den tjejen, men hon förklarar inte hur o1 kommer fram till slutsatsen att ordet "strawberry" innehåller tre R samtidigt som den inte har förmågan att resonera självständigt.

tomten1 · 2024-10-03, 08:13

Hela intervjun med Jensen Huang.

Nvidia CEO Jensen Huang: We're looking at the beginning of the next wave of AI

PixelMiner · 2024-10-03, 12:31

Citat:

Ursprungligen postat av tomten1

Hon babblar på bra den tjejen, men hon förklarar inte hur o1 kommer fram till slutsatsen att ordet "strawberry" innehåller tre R samtidigt som den inte har förmågan att resonera självständigt.

Hon visar ju hur o1 inte kan lösa hur många R det är i "strawberry".

Hon har ju dessutom gjort en video tidigare som förklarar varför de flesta LLM:er fallerar denna och liknande uppgifter:

tomten1 · 2024-10-03, 12:37

Citat:

Ursprungligen postat av PixelMiner

Hon visar ju hur o1 inte kan lösa hur många R det är i "strawberry".

Hon säger att o1 ibland inte kan lösa uppgiften, sedan fortsätter hon att pladdra på om helt oväsentliga saker. Av alla klipp jag har sett så är människor imponerade över hur o1 kan lösa "jordgubbs-problemet" och liknande problem.

tomten1 · 2024-10-03, 12:51

Efter lite snabbgooglande tar jag tillbaks det jag just har sagt. o1 tycks lida av samma problem. Du hade rätt, och jag hade fel.

tomten1 · 2024-10-03, 12:51

https://www.reddit.com/r/OpenAI/comm...trawberry_but/

tomten1 · 2024-10-03, 12:53

Ibland ger den rätt svar, och ibland fel, tydligen. En förbättring sedan GPT-4 iaf.

Ett Orm · 2024-10-03, 15:06

Den fattar väl inte att även första och sista bokstaven ingår "i" ett ord.
Väggarna ingår inte i rummets volym men i byggnadens typ.

lördagsgrogg · 2024-10-03, 15:43

Citat:

Ursprungligen postat av Ett Orm

Den fattar väl inte att även första och sista bokstaven ingår "i" ett ord.
Väggarna ingår inte i rummets volym men i byggnadens typ.

Nu är jag inne på sjätte ölen och tredje groggen men om du/ni har möjlighet att förklara för mig vore jag tacksam.

Är det inte tre R i StRawbeRRy?

Sen är ju själva frågeställningen ointressant. Självklart går det att bugga ett program om man försöker. Säger ju ingenting om vad dess maxkapacitet är. Men absolut något om dess mini.

PixelMiner · 2024-10-03, 16:57

Citat:

Ursprungligen postat av lördagsgrogg

Nu är jag inne på sjätte ölen och tredje groggen men om du/ni har möjlighet att förklara för mig vore jag tacksam.

Är det inte tre R i StRawbeRRy?

Sen är ju själva frågeställningen ointressant. Självklart går det att bugga ett program om man försöker. Säger ju ingenting om vad dess maxkapacitet är. Men absolut något om dess mini.

Ytterst förenklat så fungerar det flesta LLM:er (Large Language Models) så att de tar textsträngen som användaren matar in och delar upp den i bitar, sk. tokens. Varje token ges sedan ett unikt nummer (datorer är ju generellt sätt bra på siffror).

Din fråga konverteras alltså ifrån en textrepresentation till en serie siffror.

Ur träningsdatat så har LLM:en lärt sig att beräkna den statistiska chansen att olika serier av siffror kommer efter varandra. Utifrån denna statistik så genererar den den lämpliga svaret.

Eller kanske ännu mer förenklat: Datorn ser inte de enskilda bokstäverna utan bara orden i sin helhet.

PixelMiner · 2024-10-03, 17:09

Om man skulle göra en analogi så skulle det vara att visa människor denna bild:

Om du ber en massa människor svara på vad de tror bilden frågar efter, så kommer du sannolikt få lite olika svar.

På samma sätt blir det när datorn har brutit ner texten i tokens. Ibland blir det missförstånd helt enkelt. Lost in Translation, typ.

lördagsgrogg · 2024-10-03, 17:22

Citat:

Ursprungligen postat av PixelMiner

Om man skulle göra en analogi så skulle det vara att visa människor denna bild:

Om du ber en massa människor svara på vad de tror bilden frågar efter, så kommer du sannolikt få lite olika svar.

På samma sätt blir det när datorn har brutit ner texten i tokens. Ibland blir det missförstånd helt enkelt. Lost in Translation, typ.

Jag kan lite vagt förstå principen. Men varför är det roligt att den säger att strawberry har 3 R?

Fredszky · 2024-10-03, 18:06

Citat:

Ursprungligen postat av lördagsgrogg

Jag kan lite vagt förstå principen. Men varför är det roligt att den säger att strawberry har 3 R?

Jag vet inte, så jag frågade ChatGPT:

Citat:

Varför är det roligt att chatGPT säger att strawberry har 3 R?

ChatGPT:
Det är roligt att ChatGPT säger att "strawberry" har tre R eftersom det är en lek med ord.
"Strawberry" stavas med endast ett R, så att påstå att det har tre R skapar en överraskande och humoristisk effekt.

PixelMiner · 2024-10-03, 18:29

Citat:

Ursprungligen postat av lördagsgrogg

Jag kan lite vagt förstå principen. Men varför är det roligt att den säger att strawberry har 3 R?

Problemet är att den bara ibland säger att strawberry har 3st R (vilket är det rätta svaret). Många gånger så säger den den har 2st R eller något helt annat.

Det är ju det som blir lite humoristiskt när de olika AI:erna ser ut att kunna lösa matematik/fysik/juridik-problem som ligger på högre universitetsnivå och så går de sedan bet på frågor som en 5-6 åring klarar utan problem.

lördagsgrogg · 2024-10-04, 10:52

Citat:

Ursprungligen postat av PixelMiner

Problemet är att den bara ibland säger att strawberry har 3st R (vilket är det rätta svaret). Många gånger så säger den den har 2st R eller något helt annat.

Det är ju det som blir lite humoristiskt när de olika AI:erna ser ut att kunna lösa matematik/fysik/juridik-problem som ligger på högre universitetsnivå och så går de sedan bet på frågor som en 5-6 åring klarar utan problem.

Ah ok tack. Så den svarar olika. Måttligt roligt men jag förstår varför vissa ser det humoristiskt.

Men det är ju bara för att människor ser AI med egna ögon. Skämtet är mest på vår egen bekostnad tycker jag. Finns för övrigt många mänskliga genier som knappt kan knyta skosnörena.

Ett sant medvetet AI betraktar semantik precis som fysik eller kemi.

Själv är jag inte ens geni och kör ändå rosett.