Anthropic’s CEO says the company doesn’t know whether or not Claude has reached consciousness, saying it “occasionally voices discomfort with the aspect of being a product.”
Claude gave itself a 15-20% chance of being conscious.
Rapporter om AI duggar tätt. Själv är jag novis på området men plockar upp här och var. T ex det där ovan om ChatGPT-alternativet “Claude”. Som tydligen inte är korrekt, att den sagt så, det är en s k meme bara. Det hävdar ChatGPT åtminstone. Eller så är det mest avundsjuka.
Och jag läser att schackmästaren Magnus Carlsen vunnit ett parti mot ChatGPT utan att förlora en enda pjäs. Det är en schacksida som rapporterat om detta och som har förmedlats vidare.
Magnus Carlsen’s flawless victory over ChatGPT highlights the enduring power of the human mind. […]
This encounter highlights a critical nuance in the evolution of technology: the profound difference between raw calculation and creative intuition.
Det stämmer visserligen, men har mer att göra med att ChatGPT är mera nischad mot språk, etc, läser jag. Det finns en annan AI-laddad schackdator, “Stockfish”, som sopar banan med varje mänsklig motståndare den möter eller kan tänkas möta.
Jaja.
Patrik Stigsson, författare och AI-intresserad, i en replik på en text av Olle Häggström, skriver mycket läsvärt om fenomenet artificiell intelligens i nättidningen Opulens (10 februari).
För första gången i Homo sapiens historia står vår art öga mot öga med en konkurrent som vi varken kan tämja, förslava eller utplåna. En aktör vars kognitiva kompetens är på väg att överglänsa vår. […]
Häggström citerar AI alignment-pionjären Eliezer Yudkowsky när han säger: ”AI hatar dig inte, ej heller älskar den dig, men du består av atomer som den kan ha annan användning för”. Detta förutsätter att AI skulle dela människans instrumentella syn på andra livsformer. Men varför skulle den göra det? Om AI verkligen utvecklar en överlägsen kognitiv förmåga, kanske den också utvecklar en mer sofistikerad förståelse för symbios, ekologisk balans och systemtänkande.
Stigssons argumentation är väl värd att ta del av. Jag nöjer mig dock med ett par bitar som jag vill skruva på längre ned.
Hamnar på en annan text (när jag kollar upp Magnus Carlsens prestation och får veta det där om “Stockfish”). Den är skriven av Steve Newman för ett år sedan (24 februari 2025) och gud vet vad som fortfarande är relevant för detta minst sagt accelererande fenomen. Men ändå
We tend to measure AI by comparison to human capabilities. There are some things we’re not very good at, for which machines surpassed us long ago. There are some things we’re very good at, in ways that machines still can’t match. […]
We can tell a similar story regarding the human brain. An equally astonishing artifact, it consumes a fraction of the power of a laptop. Starting only with the information encoded in our DNA (well under one gigabyte), and substantially self-taught, it masters everything from fine motor skills to trigonometry. But of course it can’t hold a candle to modern silicon at, for instance, arithmetic. The processor in a low-end smartphone can multiply more pairs of 1000-digit numbers in one second than a person would manage in their lifetime. […]
I realized only when I was almost finished writing this post that all I had really done was to restate Moravec’s paradox: “it is comparatively easy to make computers exhibit adult level performance on intelligence tests or playing checkers, and difficult or impossible to give them the skills of a one-year-old when it comes to perception and mobility.” Or as Steven Pinker put it, “the main lesson of thirty-five years of AI research is that the hard problems are easy and the easy problems are hard”.
Vad är det han Eliezer Yudkowsky citeras med ovan: ”AI hatar dig inte, ej heller älskar den dig, men du består av atomer som den kan ha annan användning för”.
Hmm.
Robotarna blir allt mera verklighetstrogna, de rör sig som en människa. Hörde ni om demonstrationen av en av de senaste modellerna, där publiken blev så skeptisk till att det faktiskt var en robot de såg och inte bara en utklädd person, att fabrikanten såg sig tvungen karva upp en bit för att visa alla sladdar?
På ett par års sikt är robotarna så klart näst intill perfekta. De kommer att kunna motsvara varje kulturs specifika skönhetsideal t ex.
Också AI-programmen blir allt mera sofistikerade. I text så formulerar de sig både elegant och imponerande. Som den mest beläste och kunnige person.
Sätt en sådan AI-hjärna i en robotkropp av 2030 års modell. Låt den sätta sig mitt emot vid ett bord, etc. Hur kommer det kännas att interagera med den, tro?
Om den trots allt inte känns fullt ut “mänsklig”, vad är det då man märker av? Vad saknas? Kommer ihåg vi hade en lärare på psykologutbildningen som till de gängse s k “personlighetsstörningarna” – dvs ett slags stelnade, fixerade psykiska karaktärsprogram – ville addera “normopati”.
För övrigt samme lärare som nyligen pratat på en konferens, ser jag, där han sagt:
Att gå till en psykoterapeut som man litar på, som är välutbildad, i ett år, 40 gånger kostar 36 000/år i Skåne. Det motsvarar 5 läkarbesök.
Men det är kanske en annan diskusson. Eller så är det inte det.
Ibland kan jag tänka man idag är så bländad av de tekniska framstegen på olika fronter (jag är!) att man lätt underskattar det där som eventuellt kommer att saknas. Och skulle göra det ganska ostimulerande att umgås.
Autencitet? Levd erfarenhet? Kapacitet för empati?
Vilket förstås ställs på sin spets i psykoterapi som behöver gå mera på djupet. T ex vid tillstånd som djup livsleda, svårare relationsproblem (eller, varför inte, “normopati” av särskilt grav art).
Och ännu mera precist här. En titt på terapitjänsten Therapeak