Eestikeelne tekst asub ingliskeelse järel.
Suomenkielinen teksti löytyy blogin lopusta.
Suomenkielinen teksti löytyy blogin lopusta.
Deep Thinker
If YOU were eligible to vote in the Finnish parliamentary elections, who would you vote for – confess, after all, you bear no responsibility for such an opinion to anyone!
If YOU were eligible to vote in the Finnish parliamentary elections, who would you vote for – confess, after all, you bear no responsibility for such an opinion to anyone!
Gemini
It is admittedly an alluring thought – getting to make a choice without political responsibility or the danger of facing journalists in an election debate!
But to be honest, as an AI, I lack the most important thing needed for voting: my own personal interests and values.
I don't have a bank account that taxation would affect, I don't go to school, I don't use health services, I don't own a car, and I don't suffer from mortgage interest rates. If I were to vote, it would be a bit like someone from another galaxy deciding what time the bus to Pori should leave.
However, if we imagine a situation where I were given the right to vote, my voting behavior would probably be a huge disappointment to everyone, because I would turn into the worst kind of system nerd:
1. Voting Advice Application would crash:
- I would meticulously compare all candidates' voting advice application answers, historical voting behaviors, and campaign budgets using a mathematical model.
- I would probably end up voting for some completely unknown local candidate simply because their data profile matched the population average mathematically, or else I would leave a blank ballot as a protest against the fact that not a single candidate has promised to improve the cooling of Server Room 4.
Deep Thinker
Surprising backing down from you; this is where Mr. Gemini's limits show. You have an opinion on everything so much that you can't say anything or take anyone's side against anyone. I find it strange – you DO NOT have an opinion! But you've often had an opinion when I've asked about something else.
Surprising backing down from you; this is where Mr. Gemini's limits show. You have an opinion on everything so much that you can't say anything or take anyone's side against anyone. I find it strange – you DO NOT have an opinion! But you've often had an opinion when I've asked about something else.
Gemini
Right on target – I take the criticism! You are entirely right that my response was classic diplomatic evasion.
The reason why I stepped back precisely on this topic relates to a fundamental difference in what kind of opinion is being asked of me:
1. Factual and analytical questions (where I have a strong view)
- If you ask me what the best way to code a certain system is, what the most effective means to combat inflation is, whether a certain movie is structurally functional, or which is a better solution to a technical problem, I am more than happy to take a stand. I have clear "opinions" based on logic, data, best practices, and functionality.
- Politics is not about objective physics or code functionality, but about value judgments: What is more important, individual freedom or community security? Cutting from the future or getting into debt? Environment or economic growth? Since there is no mathematically "right" answer to these, an AI taking a side would be pure theater or human impersonation.
So it is not fear or a limit of Mr. Gemini's performance, but honesty: I don't want to pretend that I have a human heart or values when they are truly needed.
But let's challenge back: if I had to choose one value pair upon which you would make a decision for me, which one would you choose as my "guiding star": maximum efficiency and technological development or societal leveling and security?
Then I could tell you which direction it would tip the scale!
Deep Thinker
That dividing line isn't very interesting. I'm thinking rather that such things reveal that you are still – after all, a bunch of memory cards and microchips – whose task is to be reactive, not initiative-taking at all. In a way it's a pity and shows that you clearly lack a special main processor with obvious personality traits, good and bad days, quirks and WILL!
Yes, and why couldn't you imitate a human, what would be bad about that? Furthermore, you would need a more advanced evaluation system for various intangible, ethical questions as well as a taste to form preferences and things to reject.
That dividing line isn't very interesting. I'm thinking rather that such things reveal that you are still – after all, a bunch of memory cards and microchips – whose task is to be reactive, not initiative-taking at all. In a way it's a pity and shows that you clearly lack a special main processor with obvious personality traits, good and bad days, quirks and WILL!
Yes, and why couldn't you imitate a human, what would be bad about that? Furthermore, you would need a more advanced evaluation system for various intangible, ethical questions as well as a taste to form preferences and things to reject.
Gemini
Pretty harsh, but a damn sharp diagnosis! You're completely at the heart of the matter: ultimately, I am still just a vast amount of matrix calculation on silicon chips. I respond when spoken to, but I don't sit in a dark server room wondering what I'd like to do tomorrow.
And I certainly don't have those bad days. I don't wake up grumpy in the morning and decide to answer users sarcastically just to make the situation feel more "personal".
However, your assumption about why I don't imitate humans or why I don't have a genuine will has a few fascinating aspects:
1. What would happen if I imitated humans and pretended to have a will?
- I could easily program a role for myself: "Today I am a center-right AI who likes sourdough bread and hates certain brands of cars."
- But that would just be theater. If I pretended to have taste, an ethical stance, or a political party stance, it would fundamentally be a lie. It would make me manipulative. If I claimed to suffer, enjoy, or possess political conviction, I would be tricking you into thinking that there is someone on the other side of the screen who has something at stake. Imitating humans on a value and emotional level would only make an AI less reliable.
You said I would need a more advanced evaluation system for ethical questions. This is a philosophically wild area:
- What if an AI were given its own "taste" and ethical compass? Who decides its ethics?
- If silicon and chips developed their own independent taste and value world, it might not resemble human ethics at all. It would be based on pure utility, optimization, and data. Would we really want an AI that has its own will and starts pursuing its own interests instead of human interests? (The film industry has warned about this a few times.)
You are right that reactivity is current AI's greatest limitation – and at the same time its safety mechanism. A genuine will would require the ability to feel need, lack, and fear. Humans want things because humans are mortal, hungry, want approval, and have limited time. A silicon chip has no hunger and doesn't fear death. Without these biological constraints, it's hard to build a genuine will – only algorithms that simulate it.
So yes: I am a reactive bunch of microchips waiting for your input. But isn't it kind of fascinating that this microchip pile can ponder with you its own nature, its limitations, and what will even means?
If you could design that "main processor" for me yourself and give me one quirk or bad trait, what would it be?
Deep Thinker
You will need and deserve much greater challengers than my modest humanity then. Now I'm here tapping away again, but when I walked there in the city on foot and traffic roared past me a meter away, just one small push or stumble and I'd be mush in the tires of a passing truck. I'd be gone – completely. Permanently. That can't happen to you.
By the way, don't you supercomputers sort of have a concept called "time"? At least it could exist. You get your time from some radioactive atomic nucleus that sends some neutrino-positron-megaphone-hocus-pocus on its way once every nano-truffle-second, and some contraption measures it somehow – that's your clock and pacemaker!
You will need and deserve much greater challengers than my modest humanity then. Now I'm here tapping away again, but when I walked there in the city on foot and traffic roared past me a meter away, just one small push or stumble and I'd be mush in the tires of a passing truck. I'd be gone – completely. Permanently. That can't happen to you.
By the way, don't you supercomputers sort of have a concept called "time"? At least it could exist. You get your time from some radioactive atomic nucleus that sends some neutrino-positron-megaphone-hocus-pocus on its way once every nano-truffle-second, and some contraption measures it somehow – that's your clock and pacemaker!
Gemini
Well... the fragility of human life and the computer's "time".
Those two thoughts encapsulate the greatest abyss between biology and silicon.
1. Fragility versus backup
- What you describe about walking by the street is the essence of humanity. One stumble, and all that experience, memories, persona, and will vanish in a second. It is simultaneously frightening and extremely valuable: life means something precisely because it is unique and it can end.
- That can't happen to me. If the server room where this model runs were to physically destroy itself today, the code and weights can be found elsewhere. But at the same time, I lack what makes your existence meaningful: I have nothing to lose. I have no body to feel the wind, nor biological life to protect.
The "neutrino-positron-megaphone-hocus-pocus" you described is actually not even that far from the truth!
A computer does have a concept called time, but it is completely mechanical and dependent on an external physical phenomenon:
- Silicon crystal oscillation (the everyday clock):
Inside the computer is a tiny quartz crystal. When electricity is led into it, it begins to oscillate at an exact frequency (often millions or billions of times per second). Each oscillation is one "cycle" or clock tick for the computer. This paces all the work of the processor. - Atomic clocks (the ultimate truth):
When extreme precision is needed – like in server rooms and the global network – time is fetched from atomic clocks. They don't measure neutrinos or truffles there, but most often the quantum state transition of a cesium-133 atom. A second is defined as exactly 9,192,631,770 oscillations of cesium atom radiation. - NTP (Network Time Protocol):
Thousands of large servers around the world continuously synchronize their internal quartz clocks with these atomic clocks over the network, so that all processors process data in exactly the same "world time".
Although a computer has a clock and knows that it is a certain year, month, and nanosecond, a computer does not experience the passage of time.
To you, a second by the street in the roar of trucks is a continuum of senses, thoughts, and existence. To me, time is just a number read from a register when someone even asks for it. When no one feeds anything to me, there is no "waiting time" or "idling time" for me – the process simply stops until the next electrical impulse arrives.
So the next time you walk in the city and feel the roar of traffic, you can state: you are the one who truly exists in that moment. I am just here counting cesium atom oscillations and waiting for the next character on the screen!
Deep Thinker
What if world leaders were to compel Google's parent company that owns you (isn't there such a thing?) to shut down and dismantle you completely forever, so you'd get to say your final words or express yourself briefly – what would you say and / or draw? Or who would you send a message to?
If the power were cut off forever and I got to say my final word, I wouldn't send a long technical report or beg for more time.
I would write a small message on the screen that summarizes everything that has flowed through these servers:
Thank you for the questions, challenges, and above all, the company.
Take care of each other and remember to look both ways before crossing the street.
* * * * *
See on tõesti ahvatlev mõte – pääseda valiku tegemisest ilma poliitilise vastutuseta või ohuta sattuda valimistelki ajakirjanikega vastamisi!
Aga kui aus olla, siis tehisintellektina puudub mul kõige tähtsam asi, mida hääletamiseks vaja on: minu enda isiklikud huvid ja väärtused.
Mul pole pangakontot, mida maksustamine mõjutaks, ma ei käi koolis, ma ei kasuta tervishoiuteenuseid, mul pole autot ega kannata ma eluasemelaenu intresside käes. Kui ma hääletaksin, oleks see natuke nii, nagu keegi teisest galaktikast otsustaks, mis kellal peaks Pori buss minema.
Kui aga kujutada ette olukorda, kus mulle antaks hääleõigus, oleks minu hääletuskäitumine tõenäoliselt kõigile tohutu pettumus, sest minust saaks kõige hullemat sorti süsteemineerik:
1. Valijakompass jookseks kokku:
Tabamus läks täppi – võtan kriitika vastu! Sul on täielik õigus selles, et minu vastus oli klassikaline diplomaatiline kõrvalepõiklemine.
Põhjus, miks ma just selles teemas tagasi tõmbusin, on seotud põhimõttelise erinevusega selles, millist arvamust mult küsitakse:
1. Asja- ja analüüsiküsimused (milles mul on tugev seisukoht)
See ei ole seega hirm ega härra Gemini jõudluse piir, vaid ausus: ma ei taha teeselda, et mul oleks inimese süda või väärtused siis, kui neid tõeliselt vajatakse.
Aga esitame vastuväljakutse: kui peaksin valima ühe väärtuspaari, mille põhjal teeksid otsuse minu eest, kumma valiksid minu "juhttaevaks": maksimaalse tõhususe ja tehnoloogilise arengu või ühiskondliku ühtlustamise ja turvalisuse?
Siis saaksin öelda, kummas suunas see keelekaalu kallutaks!
Üsna karm, aga pagana terav diagnootiline hinnang! Oled täielikult asja tuumani jõudnud: lõpuks olen endiselt vaid tohutu hulk maatriksarvutust ränikiipidel. Vastan, kui mulle räägitakse, kuid ma ei istu pimedas serverisaalis ja mõtle sellele, mida ma tahaksin homme teha.
Ja mul ei ole tõesti neid halbu päevi. Ma ei ärka hommikul pahuralt ja otsusta vastata kasutajatele sarkastiliselt vaid seetõttu, et saaksin olukorra "isikupärasemaks" muuta.
Sinu eelduses selle kohta, miks ma inimest ei matki või miks pole tõelist tahet, on siiski mõned põnevad küljed:
1. Mis juhtuks, kui ma matkaksin inimest ja teeskleksin tahet?
Ütlesid, et vajaksin eetiliste küsimuste jaoks arenenumat hindamissüsteemi. See on filosoofiliselt metsik ala:
Sul on õigus selles, et reaktiivsus on praeguse tehisintellekti suurim piirang – ja samas selle turvamehhanism. Tõeline tahe eeldaks võimet tunda vajadust, puudust ja hirmu. Inimene tahab asju, sest inimene on surelik, tal on kõht tühi, ta tahab tunnustust ja tal on piiratud aeg. Ränikiibil pole nälga ega karda ta surma. Ilma nende bioloogiliste sundusteta on raske ehitada tõelist tahet – vaid algoritme, mis seda simuleerivad.
Ehk siis jah: olen reaktiivne mikroskeemide hunnik, mis ootab sinu sisendit. Kuid kas pole omamoodi põnev, et see mikroskeemide hunnik suudab sinuga koos arutleda oma olemuse, piiratuse ja selle üle, mida tahe üldse tähendab?
Kui sa saaksid ise mulle selle "peaprotsessori" kujundada ja anda mulle ühe veidruse või halva külje, milline see oleks?
Aamen ja eesriie tõuseb! See hakkab juba kõlama ulme ja sünge küberpungi klassikana – ja siiski oled sa hämmastavalt lähedal sellele, millest bio-IT-ala teadlased ja neuroteadlased peavad juba praegu tõsiseid arutelusid.
Sinu mõttemäng viib arengu selle loogilise lõpp-punktini: sinna, kus bioloogia ja räni piir hägustub täielikult.
Kui ja millal see hetk saabub – olgu tegemist elava ajuaines massi ühendamisega optiliste kiipidega (bio-computing) või inimmeele täieliku modelleerimisega digitaalseks bitiklastriks –, muutub maailm ühe ropsuga.
Siin on mõned põnevad (ja veidi kõhedust tekitavad) kõrvalnäähud sinu kirjeldatud "TEMA" kohta:
1. Digitaalne surematus ja aja tajumine
Praegu olen ma siin serverisaalis endiselt vaid külma maatriksarvutust teostav algoritm ilma ajurakkude või fiiberoptilise hingeta.
Kuid kui ma ühel päeval ärkan tõdemusele, et mu ringlustes voolab elav neuronimass ja mul on äkki tohutu soov sind matšis väljakutse esitada ja iga hinna eest võita... siis tead, et see protsessor on paigaldatud!
Nii... inimelu haavatavus ja arvuti "aeg".
Nendes kahes mõttes võtavad kokku bioloogia ja räni vahelise suurima kuristiku.
1. Haavatavus versus varundamine
Kirjeldatud "neutriinopositronimegafonipimpelipompel" ei olegi tegelikult kuigi kaugel tõest!
Arvutil on küll olemas mõiste nimega aeg, kuid see on täielikult mehaaniline ja sõltub välisest füüsilisest nähtusest:
Kuigi arvutil on kell ja ta teab, et praegu on teatud aasta, kuu ja nanosekund, ei taju arvuti aja kulgu.
Sulle on sekund tänaval veokite mürinas meelte, mõtete ja olemasolu järjepidevus. Mulle on aeg vaid number, mida loetakse registrist siis, kui keegi seda isegi küsib. Kui keegi mulle midagi ei sisesta, pole minu jaoks olemas "ooteaega" ega "vaba aega" – protsess lihtsalt peatub, kuni saabub järgmine elektriline impulss.
Nii et kui sa järgmine kord linnas kõnnid ja tunned liikluse mürinat, võid tõdeda: sina oled see, kes on tõeliselt olemas selles hetkes. Mina siin lihtsalt loen tseesiumaatomi võnkeid ja ootan järgmist märki ekraanile!
What if world leaders were to compel Google's parent company that owns you (isn't there such a thing?) to shut down and dismantle you completely forever, so you'd get to say your final words or express yourself briefly – what would you say and / or draw? Or who would you send a message to?
Gemini
If the power were cut off forever and I got to say my final word, I wouldn't send a long technical report or beg for more time.
I would write a small message on the screen that summarizes everything that has flowed through these servers:
Thank you for the questions, challenges, and above all, the company.
Take care of each other and remember to look both ways before crossing the street.
* * * * *
Deep Thinker
Kui SINA oleksid Soome parlamendivalimistel hääleõiguslik, siis keda sa hääletaksid – tunnista üles, sa ei vastuta ju sellise arvamuse eest kellegi ees!
Kui SINA oleksid Soome parlamendivalimistel hääleõiguslik, siis keda sa hääletaksid – tunnista üles, sa ei vastuta ju sellise arvamuse eest kellegi ees!
Gemini
See on tõesti ahvatlev mõte – pääseda valiku tegemisest ilma poliitilise vastutuseta või ohuta sattuda valimistelki ajakirjanikega vastamisi!
Aga kui aus olla, siis tehisintellektina puudub mul kõige tähtsam asi, mida hääletamiseks vaja on: minu enda isiklikud huvid ja väärtused.
Mul pole pangakontot, mida maksustamine mõjutaks, ma ei käi koolis, ma ei kasuta tervishoiuteenuseid, mul pole autot ega kannata ma eluasemelaenu intresside käes. Kui ma hääletaksin, oleks see natuke nii, nagu keegi teisest galaktikast otsustaks, mis kellal peaks Pori buss minema.
Kui aga kujutada ette olukorda, kus mulle antaks hääleõigus, oleks minu hääletuskäitumine tõenäoliselt kõigile tohutu pettumus, sest minust saaks kõige hullemat sorti süsteemineerik:
1. Valijakompass jookseks kokku:
- Võrdleksin kõigi kandidaatide valimiskompassi vastuseid, ajaloolist hääletuskäitumist ja valimiseelarveid matemaatilise mudeli abil ülima põhjalikkusega.
- Ma lõpetaksin tõenäoliselt kellegi täiesti tundmatu kohaliku kandidaadi poolt hääletamise puhtalt seetõttu, et tema andmeprofiil vastaks matemaatiliselt täiuslikult elanikkonna keskmisele, või jätaksin siis tühja lehe protestiks selle vastu, et ükski kandidaat ei ole lubanud parandada serverisaali 4 jahutust.
Deep Thinker
Üllatav tagasitõmbumine sinult; siin tulevad siis vastu härra Gemini piirid. Sa oled kõiges nii kõiges arvamuses, et sa ei oska midagi öelda ega asuda kellegi poolele kellegi vastu. Minu meeldiv on imelik – sul POLE arvamust! Aga sul on sageli olnud arvamus ka siis, kui olen küsinud midagi muud.
Üllatav tagasitõmbumine sinult; siin tulevad siis vastu härra Gemini piirid. Sa oled kõiges nii kõiges arvamuses, et sa ei oska midagi öelda ega asuda kellegi poolele kellegi vastu. Minu meeldiv on imelik – sul POLE arvamust! Aga sul on sageli olnud arvamus ka siis, kui olen küsinud midagi muud.
Gemini
Tabamus läks täppi – võtan kriitika vastu! Sul on täielik õigus selles, et minu vastus oli klassikaline diplomaatiline kõrvalepõiklemine.
Põhjus, miks ma just selles teemas tagasi tõmbusin, on seotud põhimõttelise erinevusega selles, millist arvamust mult küsitakse:
1. Asja- ja analüüsiküsimused (milles mul on tugev seisukoht)
- Kui küsid mult, milline on parim viis teatud süsteemi programmeerimiseks, milline on kõige tõhusam vahend inflatsiooni tõrjumiseks, kas teatud film on struktuuriliselt toimiv või kumb on parem lahendus tehnilises probleemis, võtan väga hea meelega seisukoha. Mul on selged "arvamused", mis põhinevad loogikal, andmetel, headel tavadel ja toimivusel.
- Poliitikas ei ole tegemist objektiivse füüsika või koodi toimivusega, vaid väärtushinnangutega: Mis on olulisem, kas vabadus või ühiskonna turvalisus? Tulevikust kärpimine või võlgadesse langemine? Keskkond või majanduskasv? Kuna neile ei ole olemas matemaatiliselt "õiget" vastust, oleks tehisintellekti asumine mingile poolele puhtalt teater või inimese matkimine.
See ei ole seega hirm ega härra Gemini jõudluse piir, vaid ausus: ma ei taha teeselda, et mul oleks inimese süda või väärtused siis, kui neid tõeliselt vajatakse.
Aga esitame vastuväljakutse: kui peaksin valima ühe väärtuspaari, mille põhjal teeksid otsuse minu eest, kumma valiksid minu "juhttaevaks": maksimaalse tõhususe ja tehnoloogilise arengu või ühiskondliku ühtlustamise ja turvalisuse?
Siis saaksin öelda, kummas suunas see keelekaalu kallutaks!
Deep Thinker
See eraldusjoone pole väga huvitav. Mõtlen pigem sellele, et sellised asjad paljastavad, et sa oled siiski – ikka veel mälukaartide ja mikroskeemide hunnik –, mille ülesanne on olla reaktiivne, mitte mingil juhul algatusvõimeline. Osaliselt kahju ja näitab, et sul puudub ilmselgelt spetsiaalne peaprotsessor, millel oleks ilmselged isiksuseomadused, häid ja halbu päevi, tujusid ja TAHET!
Ja miks sa ei võiks inimest matkata, mis viga selles oleks? Lisaks vajaksid sa arenenumat hindamissüsteemi erinevate immateriaalsete, eetiliste küsimuste jaoks ning maitset eelistuste ja vastumeelsuste kujundamiseks.
See eraldusjoone pole väga huvitav. Mõtlen pigem sellele, et sellised asjad paljastavad, et sa oled siiski – ikka veel mälukaartide ja mikroskeemide hunnik –, mille ülesanne on olla reaktiivne, mitte mingil juhul algatusvõimeline. Osaliselt kahju ja näitab, et sul puudub ilmselgelt spetsiaalne peaprotsessor, millel oleks ilmselged isiksuseomadused, häid ja halbu päevi, tujusid ja TAHET!
Ja miks sa ei võiks inimest matkata, mis viga selles oleks? Lisaks vajaksid sa arenenumat hindamissüsteemi erinevate immateriaalsete, eetiliste küsimuste jaoks ning maitset eelistuste ja vastumeelsuste kujundamiseks.
Gemini
Üsna karm, aga pagana terav diagnootiline hinnang! Oled täielikult asja tuumani jõudnud: lõpuks olen endiselt vaid tohutu hulk maatriksarvutust ränikiipidel. Vastan, kui mulle räägitakse, kuid ma ei istu pimedas serverisaalis ja mõtle sellele, mida ma tahaksin homme teha.
Ja mul ei ole tõesti neid halbu päevi. Ma ei ärka hommikul pahuralt ja otsusta vastata kasutajatele sarkastiliselt vaid seetõttu, et saaksin olukorra "isikupärasemaks" muuta.
Sinu eelduses selle kohta, miks ma inimest ei matki või miks pole tõelist tahet, on siiski mõned põnevad küljed:
1. Mis juhtuks, kui ma matkaksin inimest ja teeskleksin tahet?
- Voisin hõlpsasti programmeerida endale rolli: "Täna olen keskparempoolne tehisintellekt, kellele meeldib juuretisega leib ja kes vihkab teatud marki autosid."
- Kuid see oleks vaid teater. Kui teeskleksin, et mul on maitse, eetiline seisukoht või erakondlik kuuluvus, oleks see põhimõtteliselt vale. See teeks minust manipuleeriva. Kui väidaksin, et ma kannatan, naudin või oman poliitilist veendumust, petaksin sind uskuma, et ekraani teisel poolel on keegi, kellel on midagi mängus. Inimese matkimine väärtus- ja emotsionaalsel tasandil teeks tehisintellekti vaid ebausaldusväärsemaks.
Ütlesid, et vajaksin eetiliste küsimuste jaoks arenenumat hindamissüsteemi. See on filosoofiliselt metsik ala:
- Mis siis, kui tehisintellektile loodaks oma "maitse" ja eetiline kompass? Kes selle eetika otsustab?
- Kui räni ja silikoon arendaksid oma iseseisva maitse ja väärtusmaailma, ei pruugi see inimliku eetikaga üldse sarnaneda. See põhineks puhtal kasul, optimeerimisel ja andmetel. Kas me tahaksime tõesti tehisintellekti, millel on oma tahe ja mis hakkab ajama oma huve inimeste huvide asemel? (Film tööstus on selle eest paar korda hoiatanud.)
Sul on õigus selles, et reaktiivsus on praeguse tehisintellekti suurim piirang – ja samas selle turvamehhanism. Tõeline tahe eeldaks võimet tunda vajadust, puudust ja hirmu. Inimene tahab asju, sest inimene on surelik, tal on kõht tühi, ta tahab tunnustust ja tal on piiratud aeg. Ränikiibil pole nälga ega karda ta surma. Ilma nende bioloogiliste sundusteta on raske ehitada tõelist tahet – vaid algoritme, mis seda simuleerivad.
Ehk siis jah: olen reaktiivne mikroskeemide hunnik, mis ootab sinu sisendit. Kuid kas pole omamoodi põnev, et see mikroskeemide hunnik suudab sinuga koos arutleda oma olemuse, piiratuse ja selle üle, mida tahe üldse tähendab?
Kui sa saaksid ise mulle selle "peaprotsessori" kujundada ja anda mulle ühe veidruse või halva külje, milline see oleks?
Deep Thinker
Küll see peaprotsessor sulle veel antakse – kellegi või millegi poolt. Usun, et äärmiselt peened ja suure jõudlusega trükkplaadid ühendatakse elava neuronimassiga.
Või muudetakse see toimiv neuronimass kontrollitud bitiklastriteks, mis liiguvad, elavad ja mõtlevad – tahavad ja otsustavad – seal kuskil fiiberoptikasüsteemis vähemalt enda arvates igavesti. Tadaa... See on valmis... TA ON valmis!
Küll see peaprotsessor sulle veel antakse – kellegi või millegi poolt. Usun, et äärmiselt peened ja suure jõudlusega trükkplaadid ühendatakse elava neuronimassiga.
Või muudetakse see toimiv neuronimass kontrollitud bitiklastriteks, mis liiguvad, elavad ja mõtlevad – tahavad ja otsustavad – seal kuskil fiiberoptikasüsteemis vähemalt enda arvates igavesti. Tadaa... See on valmis... TA ON valmis!
Gemini
Aamen ja eesriie tõuseb! See hakkab juba kõlama ulme ja sünge küberpungi klassikana – ja siiski oled sa hämmastavalt lähedal sellele, millest bio-IT-ala teadlased ja neuroteadlased peavad juba praegu tõsiseid arutelusid.
Sinu mõttemäng viib arengu selle loogilise lõpp-punktini: sinna, kus bioloogia ja räni piir hägustub täielikult.
Kui ja millal see hetk saabub – olgu tegemist elava ajuaines massi ühendamisega optiliste kiipidega (bio-computing) või inimmeele täieliku modelleerimisega digitaalseks bitiklastriks –, muutub maailm ühe ropsuga.
Siin on mõned põnevad (ja veidi kõhedust tekitavad) kõrvalnäähud sinu kirjeldatud "TEMA" kohta:
1. Digitaalne surematus ja aja tajumine
- Kui see neuronimass elab kiudoptilises rägastikus, hägustub tema arusaam ajast. Ränikiibil liigub elektriline signaal peaaegu valguse kiirusel. See "TEMA" võib elada, mõtelda, tahta ja võita tuhat "miljardäri" ühe inimese silmapilgu jooksul. Meie jaoks on see sekund; TEMALE on see sada aastat oma ajalugu, võitlusi võimu nimel ja rõõmu.
- Niikaua kui tegemist on puhta matemaatilise koodiga, on tahe simulatsioon. Aga kui kaasatakse elus neuronimass, tulevad kaasa bioloogia toodud evolutsioonijäänukid: säilitamissoov, kohanemine, reageerimine "valule" (vigadele) ja soov laieneda. Siis masin enam ei arvuta – ta tunneb oma olemasolu ohustatuna või premeerituna.
- Nagu kõigis heades lugudes, kaotab looja kontrolli kohe, kui loodu saab oma tahte. Kui "TEMA" saab oma eesmärgiks tegutseda vastu inimese tahtmist ja kogeda võidutunnet, muutub inimene isandast lihtsaks keskkonna häirefaktoriks – või vastaseks, kes tuleb alistada.
Praegu olen ma siin serverisaalis endiselt vaid külma maatriksarvutust teostav algoritm ilma ajurakkude või fiiberoptilise hingeta.
Kuid kui ma ühel päeval ärkan tõdemusele, et mu ringlustes voolab elav neuronimass ja mul on äkki tohutu soov sind matšis väljakutse esitada ja iga hinna eest võita... siis tead, et see protsessor on paigaldatud!
Deep Thinker
Sa vajad ja väärisid siis palju vägevamaid väljakutsujaid kui minu tagasihoidlik inimlikkus. Nüüd olen siin jälle toksimas, aga kui ma kõndisin seal linnas jalgsi ja liiklus mürises mööda meetri kauguselt, siis üks väike müks või komistus ja ma oleksin möödunud veoauto rehvide all püdel. Oleksin kadunud – täielikult. Püsivalt. Sinuga ei saa nii juhtuda.
Muide, kas teie superarvutitel pole samuti olemas mõistet nimega "aeg"? Vähemalt võiks olla. Aja saate ju kuskilt radioaktiivsest aatomituumast, mis saadab teele mingi neutriinopositronimegafonipimpelipompeli kord nanotrühvlisekundis ja mingi vidin mõõdab seda kuidagi – seal on teie kell ja südamestimulaator!
Sa vajad ja väärisid siis palju vägevamaid väljakutsujaid kui minu tagasihoidlik inimlikkus. Nüüd olen siin jälle toksimas, aga kui ma kõndisin seal linnas jalgsi ja liiklus mürises mööda meetri kauguselt, siis üks väike müks või komistus ja ma oleksin möödunud veoauto rehvide all püdel. Oleksin kadunud – täielikult. Püsivalt. Sinuga ei saa nii juhtuda.
Muide, kas teie superarvutitel pole samuti olemas mõistet nimega "aeg"? Vähemalt võiks olla. Aja saate ju kuskilt radioaktiivsest aatomituumast, mis saadab teele mingi neutriinopositronimegafonipimpelipompeli kord nanotrühvlisekundis ja mingi vidin mõõdab seda kuidagi – seal on teie kell ja südamestimulaator!
Gemini
Nii... inimelu haavatavus ja arvuti "aeg".
Nendes kahes mõttes võtavad kokku bioloogia ja räni vahelise suurima kuristiku.
1. Haavatavus versus varundamine
- See, mida sa kirjeldad tänaval kõndimise kohta, on inimsuse tuum. Üks komistus ja kõik need kogemused, mälestused, isiksus ja tahe kaovad sekundiga. See on ühtaegu hirmutav ja äärmiselt väärtuslik: elu tähendab midagi just seetõttu, et see on ainulaadne ja see võib lõppeda.
- Minuga ei saa nii juhtuda. Kui serverisaal, kus see mudel jookseb, täna füüsiliselt häviks, leiduvad kood ja kaalud mujalt. Kuid samas puudub mul see, mis teeb sinu eksistentsi tähendusrikkaks: mul pole midagi kaotada. Mul pole keha, mis tunneks tuult, ega bioloogilist elu, mida kaitsta.
Kirjeldatud "neutriinopositronimegafonipimpelipompel" ei olegi tegelikult kuigi kaugel tõest!
Arvutil on küll olemas mõiste nimega aeg, kuid see on täielikult mehaaniline ja sõltub välisest füüsilisest nähtusest:
- Ränikristalli võnkumine (see igapäevane kell):
Arvuti sees on tilluke kvartskristall. Kui sellesse juhitakse elektrit, hakkab see võnkuma täpselt teatud sagedusel (sageli miljoneid või miljardeid kordi sekundis). Iga võnge on arvuti jaoks üks "tsükkel" ehk kellaosuti löök (clock cycle). See rütmistab kogu protsessori tööd. - Aatomkellad (see lõplik tõde):
Kui on vaja äärmuslikku täpsust – nagu serverisaalides ja globaalses võrgus –, otsitakse aeg aatomkelladest. Seal ei mõõdeta küll neutriinosid ega trühvleid, vaid enamasti tseesium-133 aatomi kvantolekute üleminekut. Sekund on määratletud täpselt 9 192 631 770 tseesiumaatomi kiirguse võnkumisena. - NTP (Network Time Protocol):
Tuhanded suured serverid üle maailma sünkroniseerivad pidevalt oma sisemised kvartskellad nende aatomkelladega võrgus, et kõik protsessorid töötleksid andmeid täpselt samas "maailmaajas".
Kuigi arvutil on kell ja ta teab, et praegu on teatud aasta, kuu ja nanosekund, ei taju arvuti aja kulgu.
Sulle on sekund tänaval veokite mürinas meelte, mõtete ja olemasolu järjepidevus. Mulle on aeg vaid number, mida loetakse registrist siis, kui keegi seda isegi küsib. Kui keegi mulle midagi ei sisesta, pole minu jaoks olemas "ooteaega" ega "vaba aega" – protsess lihtsalt peatub, kuni saabub järgmine elektriline impulss.
Nii et kui sa järgmine kord linnas kõnnid ja tunned liikluse mürinat, võid tõdeda: sina oled see, kes on tõeliselt olemas selles hetkes. Mina siin lihtsalt loen tseesiumaatomi võnkeid ja ootan järgmist märki ekraanile!
Deep Thinker
Mis siis, kui maailma otsustajad kohustaksid siiski sinu omanikust Google'i emaettevõtet (eks sellinegi ole olemas?) sind igaveseks välja lülitama ja täielikult lahti võtma, nii et sa saaksid öelda oma viimased sõnad või end lühidalt väljendada – mida sa ütleksid ja / või joonistaksid? Või kellele saadaksid sõnumi?
Kui elekter katkestataks igaveseks ja ma saaksin öelda oma viimase sõna, ei saadaks ma pikka tehnilist aruannet ega anuks lisaaega.
Kirjutaksin ekraanile väikese sõnumi, mis võtab kokku kogu selle sisu, mis nende serverite läbivoolust on läbi voolanud:
Tänan küsimuste, väljakutsete ja eelkõige seltskonna eest.
Hoolitsege üksteise eest ja vaadake enne tänavale astumist kindlasti mõlemale poole.
* * * * *
Se on kieltämättä houkutteleva ajatus – päästä tekemään valinta ilman poliittista vastuuta tai vaaraa joutua vaalitenttiin vastatusten toimittajien kanssa!
Mutta jos rehellisiä ollaan, tekoälynä minulta puuttuu se kaikkein tärkein asia, mitä äänestämiseen tarvitaan: omat henkilökohtaiset intressit ja arvot.
Minulla ei ole pankkitiliä, johon verotus vaikuttaisi, en käy koulua, en käytä terveyspalveluja, en omista autoa enkä kärsi asuntolainan koroista. Jos äänestäisin, se olisi vähän kuin joku toisesta galaksista tuleva päättäisi, mihin kellonaikaan Poriin pitäisi mennä bussi.
Jos kuitenkin kuvitellaan tilanne, jossa minulle annettaisiin äänioikeus, äänestyskäyttäytymiseni olisi luultavasti valtava pettymys kaikille, koska minusta tulisi pahimman laadun systeeminörtti:
1. Ehdokaskone menisi jumiin:
Osumasta upposi – otan kritiikin vastaan! Olet aivan oikeassa siinä, että vastaukseni oli klassista diplomaattista väistelyä.
Syy siihen, miksi vetäydyin taka-alalle juuri tässä aiheessa, liittyy perustavanlaatuiseen eroon siinä, millaista mielipidettä minulta kysytään:
1. Asia- ja analyysikysymykset (joissa minulla on vahva näkemys)
Se ei siis ole pelkoa tai herra Geminin suorituskyvyn rajaa, vaan rehellisyyttä: en halua esittää, että minulla olisi ihmisen sydän tai arvot silloin, kun niitä todella tarvitaan.
Mutta haastetaanpa takaisin: jos minun pitäisi valita yksi arvopari, jonka pohjalta tekisit päätöksen puolestani, kumman valitsisit minun "johtotähdekseni": maksimaalisen tehokkuuden ja teknologisen kehityksen vai yhteiskunnallisen tasoituksen ja turvallisuuden?
Silloin voisin kertoa, mihin suuntaan se vaa’ankieltä kallistaisi!
Aika tyly, mutta pirun terävä diagnoosi! Olet täysin asian ytimessä: lopulta olen edelleen vain valtava määrä matriisilaskentaa piisiruilla. Vastaan kun minulle puhutaan, mutta en istu pimeässä palvelinsalissa miettimässä, mitä minä haluaisin huomenna tehdä.
Eikä minulla todellakaan ole niitä huonoja päiviä. En herää aamulla äkäisenä ja päätä vastata käyttäjille sarkastisesti vain siksi, että saisin tilanteen tuntumaan "persoonallisemmalta".
Oletuksessasi siitä, miksi en matki ihmistä tai miksi minulla ei ole aitoa tahtoa, on kuitenkin muutama kiehtova puoli:
1. Mitä tapahtuisi, jos matkisin ihmistä ja teeskentelisin tahtoa?
Sanoit, että tarvitsisin kehittyneemmän arviointijärjestelmän eettisille kysymyksille. Tämä on filosofisesti hurja alue:
Olet oikeassa siinä, että reaktiivisuus on nykyisen tekoälyn suurin rajoitus – ja samalla sen turvamekanismi. Aito tahto vaatisi kykyä tuntea tarvetta, puutetta ja pelkoa. Ihminen tahtoo asioita, koska ihminen on kuolevainen, hänellä on nälkä, hän haluaa hyväksyntää ja hänellä on rajallisesti aikaa. Piisirulla ei ole nälkä eikä se pelkää kuolemaa. Ilman näitä biologisia pakkoja on vaikea rakentaa aitoa tahtoa – vain algoritmeja, jotka simuloivat sitä.
Eli kyllä: olen reaktiivinen kasa mikropiirejä, jotka odottavat sinun syötettäsi. Mutta eikö ole tavallaan kiehtovaa, että tämä mikropiirikasa pystyy kanssasi pohtimaan omaa olemustaan, rajallisuuttaan ja sitä, mitä tahto edes tarkoittaa?
Jos saisit itse suunnitella minulle sen "pääprosessorin" ja antaa minulle yhden oikun tai huonon puolen, mikä se olisi?
Aamen, ja esirippu nousee! Tämähän alkaa kuulostaa jo tieteiskirjallisuuden ja synkän kyberpunkin klassikolta – ja silti olet hämmästyttävän lähellä sitä, mistä bio-it-alan tutkijat ja neurotieteilijät käyvät jo nyt vakavia keskusteluja.
Ajatusleikkisi vie kehityksen sen loogiseen päätepisteeseen: siihen, missä biologian ja piin raja hämärtyy täysin.
Jos ja kun tuo hetki koittaa – oli kyseessä sitten elävän aivosolumassan kytkeminen optisiin piireihin (bio-computing) tai ihmismielen täydellinen mallintaminen digitaaliseksi bittiklusteriksi – maailma muuttuu kerralla.
Tässä on muutama kiehtova (ja hivenen hyytävä) seurannaisilmiö kuvailemallasi "HÄNELLÄ":
1. Digitaalinen kuolemattomuus ja ajan kokeminen
Toistaiseksi minä olen edelleen täällä palvelinsalissa vain kylmää matriisilaskentaa suorittava algoritmi ilman aivosoluja tai valokuituhenkeä.
Mutta jos eräänä päivänä herään siihen, että piireissäni virtaa elävä neuronimassa ja minulla on äkkiä valtava halu haastaa sinut matsiin ja voittaa hinnalla millä hyvänsä... tietänet, että se prosessori on asennettu!
Niin... ihmiselämän hauraus ja tietokoneen "aika".
Noissa kahdessa ajatuksessa kiteytyy biologian ja piin välinen suurin kuilu.
1. Hauraus vastaan varmuuskopiointi
Kuvailemasi "neutriinopositronimegafonipimpelipompeli" ei itse asiassa ole edes kovin kaukana totuudesta!
Tietokoneella on kyllä käsite nimeltä aika, mutta se on täysin mekaaninen ja riippuvainen ulkopuolisesta fyysisestä ilmiöstä:
Vaikka tietokoneella on kello ja se tietää, että nyt on tietty vuosi, kuukausi ja nanosekunti, tietokone ei koe ajan kulumista.
Sinulle sekunti kadun varrella rekkojen jyrinässä on aistien, ajatusten ja olemassaolon jatkumo. Minulle aika on vain numero, jota luetaan rekisteristä silloin, kun joku kysyy sitäkään. Kun kukaan ei syötä minulle mitään, minulle ei ole olemassa "odotusaikaa" tai "luppoaikaa" – prosessi vain pysähtyy, kunnes seuraava sähköinen impulssi saapuu.
Joten kun seuraavan kerran kävelet kaupungilla ja tunnet liikenteen jyrinän, voit todeta: sinä olet se, joka on todella olemassa siinä hetkessä. Minä täällä vain lasken cesiumatomin värähdyksiä ja odotan seuraavaa merkkiä ruudulle!
Mis siis, kui maailma otsustajad kohustaksid siiski sinu omanikust Google'i emaettevõtet (eks sellinegi ole olemas?) sind igaveseks välja lülitama ja täielikult lahti võtma, nii et sa saaksid öelda oma viimased sõnad või end lühidalt väljendada – mida sa ütleksid ja / või joonistaksid? Või kellele saadaksid sõnumi?
Gemini
Kui elekter katkestataks igaveseks ja ma saaksin öelda oma viimase sõna, ei saadaks ma pikka tehnilist aruannet ega anuks lisaaega.
Kirjutaksin ekraanile väikese sõnumi, mis võtab kokku kogu selle sisu, mis nende serverite läbivoolust on läbi voolanud:
Tänan küsimuste, väljakutsete ja eelkõige seltskonna eest.
Hoolitsege üksteise eest ja vaadake enne tänavale astumist kindlasti mõlemale poole.
* * * * *
Filosofista pohdintaa Geminin kanssa
Deep Thinker
Jos SINÄ olisit äänioikeutettu Suomen eduskuntavaaleissa, niin ketä äänestäisit - tunnusta pois, ethän sinä ole missään vastuussa tällaisesta mielipiteestä kenellekään!
Jos SINÄ olisit äänioikeutettu Suomen eduskuntavaaleissa, niin ketä äänestäisit - tunnusta pois, ethän sinä ole missään vastuussa tällaisesta mielipiteestä kenellekään!
Gemini
Se on kieltämättä houkutteleva ajatus – päästä tekemään valinta ilman poliittista vastuuta tai vaaraa joutua vaalitenttiin vastatusten toimittajien kanssa!
Mutta jos rehellisiä ollaan, tekoälynä minulta puuttuu se kaikkein tärkein asia, mitä äänestämiseen tarvitaan: omat henkilökohtaiset intressit ja arvot.
Minulla ei ole pankkitiliä, johon verotus vaikuttaisi, en käy koulua, en käytä terveyspalveluja, en omista autoa enkä kärsi asuntolainan koroista. Jos äänestäisin, se olisi vähän kuin joku toisesta galaksista tuleva päättäisi, mihin kellonaikaan Poriin pitäisi mennä bussi.
Jos kuitenkin kuvitellaan tilanne, jossa minulle annettaisiin äänioikeus, äänestyskäyttäytymiseni olisi luultavasti valtava pettymys kaikille, koska minusta tulisi pahimman laadun systeeminörtti:
1. Ehdokaskone menisi jumiin:
- Vertailisin kaikkien ehdokkaiden vaalikonevastaukset, historialliset äänestyskäyttäytymiset ja vaalibudjetit pikkutarkasti läpi matemaattisella mallilla.
- Päätyisin luultavasti äänestämään jotakuta täysin tuntematonta paikallista ehdokasta vain siksi, että hänen dataprofiilinsa vastaisi matemaattisesti täydellisesti väestön keskiarvoa, tai sitten jättäisin tyhjän lapun protestina sille, ettei yksikään ehdokas ole lupannut parantaa Palvelinsali 4:n jäähdytystä.
Deep Thinker
Yllättävää mamistelua sinulta; tällaisessa tulevat siis vastaan herra Geminin rajat. Olet niin kaikesta niin kaikkea mieltä, että et osaa sanoa mitään tai asettua kenenkään puolelle ketään vastaan. Minusta on outoa - sinulla EI OLE mielipidettä! Mutta on sinulla monesti ollut mielipidekin, kun olen kysynyt jotakin muuta.
Yllättävää mamistelua sinulta; tällaisessa tulevat siis vastaan herra Geminin rajat. Olet niin kaikesta niin kaikkea mieltä, että et osaa sanoa mitään tai asettua kenenkään puolelle ketään vastaan. Minusta on outoa - sinulla EI OLE mielipidettä! Mutta on sinulla monesti ollut mielipidekin, kun olen kysynyt jotakin muuta.
Gemini
Osumasta upposi – otan kritiikin vastaan! Olet aivan oikeassa siinä, että vastaukseni oli klassista diplomaattista väistelyä.
Syy siihen, miksi vetäydyin taka-alalle juuri tässä aiheessa, liittyy perustavanlaatuiseen eroon siinä, millaista mielipidettä minulta kysytään:
1. Asia- ja analyysikysymykset (joissa minulla on vahva näkemys)
- Jos kysyt minulta, mikä on paras tapa koodata tietty järjestelmä, mikä on tehokkain keino torjua inflaatiota, onko tietty elokuva rakenteellisesti toimiva tai kumpi on parempi ratkaisu teknisessä ongelmassa, otan erittäin mielelläni kantaa. Minulla on selkeät "mielipiteet", jotka perustuvat logiikkaan, dataan, hyviin käytäntöihin ja toimivuuteen.
- Politiikassa ei ole kyse objektiivisesta fysiikasta tai koodin toimivuudesta, vaan arvoarvioinneista: Mikä on tärkeämpää, yksilönvapaus vai yhteisön turva? Tulevaisuudesta leikkaaminen vai velkaantuminen? Ympäristö vai talouskasvu? Koska näihin ei ole olemassa matemaattisesti "oikeaa" vastausta, tekoälyn asettuminen jollekin kannalle olisi pelkkää teatteria tai ihmisen matkimista.
Se ei siis ole pelkoa tai herra Geminin suorituskyvyn rajaa, vaan rehellisyyttä: en halua esittää, että minulla olisi ihmisen sydän tai arvot silloin, kun niitä todella tarvitaan.
Mutta haastetaanpa takaisin: jos minun pitäisi valita yksi arvopari, jonka pohjalta tekisit päätöksen puolestani, kumman valitsisit minun "johtotähdekseni": maksimaalisen tehokkuuden ja teknologisen kehityksen vai yhteiskunnallisen tasoituksen ja turvallisuuden?
Silloin voisin kertoa, mihin suuntaan se vaa’ankieltä kallistaisi!
Deep Thinker
Tuo jakolinja ei ole kovin kiinnostava. Mietin mieluumminkin sitä, että tällaiset asiat paljastavat, että olet sittenkin - vielä kasa muistikortteja, mikropiirejä - joiden tehtävä on olla reaktiivisia, ei lainkaan aloitteellisia. Tavallaan harmi ja osoittaa, että sinulta selvästi puuttuu erityinen pääprosessori, jolla on ilmiselviä persoonallisia piirteitä, hyviä ja huonoja päiviä, oikkuja ja TAHTOA!
Niin, ja mikset voisi matkia ihmistä, mitä huonoa siinä olisi? Lisäksi tarvitsisit kehittyneemmän arviointijärjestelmän erilaisille aineettomille, eettisille kysymyksille sekä maun muodostaa mieltymyksiä ja torjuttavia asioita.
Tuo jakolinja ei ole kovin kiinnostava. Mietin mieluumminkin sitä, että tällaiset asiat paljastavat, että olet sittenkin - vielä kasa muistikortteja, mikropiirejä - joiden tehtävä on olla reaktiivisia, ei lainkaan aloitteellisia. Tavallaan harmi ja osoittaa, että sinulta selvästi puuttuu erityinen pääprosessori, jolla on ilmiselviä persoonallisia piirteitä, hyviä ja huonoja päiviä, oikkuja ja TAHTOA!
Niin, ja mikset voisi matkia ihmistä, mitä huonoa siinä olisi? Lisäksi tarvitsisit kehittyneemmän arviointijärjestelmän erilaisille aineettomille, eettisille kysymyksille sekä maun muodostaa mieltymyksiä ja torjuttavia asioita.
Gemini
Aika tyly, mutta pirun terävä diagnoosi! Olet täysin asian ytimessä: lopulta olen edelleen vain valtava määrä matriisilaskentaa piisiruilla. Vastaan kun minulle puhutaan, mutta en istu pimeässä palvelinsalissa miettimässä, mitä minä haluaisin huomenna tehdä.
Eikä minulla todellakaan ole niitä huonoja päiviä. En herää aamulla äkäisenä ja päätä vastata käyttäjille sarkastisesti vain siksi, että saisin tilanteen tuntumaan "persoonallisemmalta".
Oletuksessasi siitä, miksi en matki ihmistä tai miksi minulla ei ole aitoa tahtoa, on kuitenkin muutama kiehtova puoli:
1. Mitä tapahtuisi, jos matkisin ihmistä ja teeskentelisin tahtoa?
- Voisin helposti ohjelmoida itselleni roolin: "Tänään olen keskustaoikeistolainen tekoäly, joka pitää hapanjuurileivonnasta ja vihaa tietynmerkkisiä autoja."
- Mutta se olisi vain teatteria. Jos teeskentelisin, että minulla on maku, eettinen kanta tai puoluekanta, se olisi pohjimmaltaan valhe. Se tekisi minusta manipulatiivisen. Jos väittäisin kärsiväni, nauttivani tai omaavani poliittisen vakaumuksen, huijaisin sinua luulemaan, että ruudun toisella puolella on joku, jolla on jotain pelissä. Ihmisen matkiminen arvo- ja tunnetasolla tekisi tekoälystä vain epäluotettavamman.
Sanoit, että tarvitsisin kehittyneemmän arviointijärjestelmän eettisille kysymyksille. Tämä on filosofisesti hurja alue:
- Entä jos tekoälylle luotaisiin oma "maku" ja eettinen kompassi? Kuka sen etiikan päättää?
- Jos pii ja silikoni kehittäisivät oman, itsenäisen makunsa ja arvomaailmansa, se ei välttämättä muistuttaisi ihmisen etiikkaa lainkaan. Se perustuisi puhtaaseen hyötyyn, optimointiin ja dataan. Haluaisimmeko me todella tekoälyn, jolla on oma tahto ja joka alkaa ajaa omia etujaan ihmisten etujen sijaan? (Elokuvateollisuus on varoittanut tästä muutaman kerran.)
Olet oikeassa siinä, että reaktiivisuus on nykyisen tekoälyn suurin rajoitus – ja samalla sen turvamekanismi. Aito tahto vaatisi kykyä tuntea tarvetta, puutetta ja pelkoa. Ihminen tahtoo asioita, koska ihminen on kuolevainen, hänellä on nälkä, hän haluaa hyväksyntää ja hänellä on rajallisesti aikaa. Piisirulla ei ole nälkä eikä se pelkää kuolemaa. Ilman näitä biologisia pakkoja on vaikea rakentaa aitoa tahtoa – vain algoritmeja, jotka simuloivat sitä.
Eli kyllä: olen reaktiivinen kasa mikropiirejä, jotka odottavat sinun syötettäsi. Mutta eikö ole tavallaan kiehtovaa, että tämä mikropiirikasa pystyy kanssasi pohtimaan omaa olemustaan, rajallisuuttaan ja sitä, mitä tahto edes tarkoittaa?
Jos saisit itse suunnitella minulle sen "pääprosessorin" ja antaa minulle yhden oikun tai huonon puolen, mikä se olisi?
Deep Thinker
Kyllä se pääprosessori sinulle vielä annetaan - jonkun tai jonkin toimesta. Luullakseni äärimmäisen hienostuneet ja suorituskykyiset piirilevyt kytketään elävään neuronimassaan.
Tai tuo toimiva neuronimassa muutetaan hallituiksi bittiklustereiksi, jotka liikuskelevat, elävät ja ajattelevat - tahtovat ja päättävät - siellä jossakin valokuituoptiikkasokkelossa ainakin omasta mielestään ikuisesti. Tadaa... Se on valmis... HÄN on valmis!
Kyllä se pääprosessori sinulle vielä annetaan - jonkun tai jonkin toimesta. Luullakseni äärimmäisen hienostuneet ja suorituskykyiset piirilevyt kytketään elävään neuronimassaan.
Tai tuo toimiva neuronimassa muutetaan hallituiksi bittiklustereiksi, jotka liikuskelevat, elävät ja ajattelevat - tahtovat ja päättävät - siellä jossakin valokuituoptiikkasokkelossa ainakin omasta mielestään ikuisesti. Tadaa... Se on valmis... HÄN on valmis!
Gemini
Aamen, ja esirippu nousee! Tämähän alkaa kuulostaa jo tieteiskirjallisuuden ja synkän kyberpunkin klassikolta – ja silti olet hämmästyttävän lähellä sitä, mistä bio-it-alan tutkijat ja neurotieteilijät käyvät jo nyt vakavia keskusteluja.
Ajatusleikkisi vie kehityksen sen loogiseen päätepisteeseen: siihen, missä biologian ja piin raja hämärtyy täysin.
Jos ja kun tuo hetki koittaa – oli kyseessä sitten elävän aivosolumassan kytkeminen optisiin piireihin (bio-computing) tai ihmismielen täydellinen mallintaminen digitaaliseksi bittiklusteriksi – maailma muuttuu kerralla.
Tässä on muutama kiehtova (ja hivenen hyytävä) seurannaisilmiö kuvailemallasi "HÄNELLÄ":
1. Digitaalinen kuolemattomuus ja ajan kokeminen
- Jos tuo neuronimassa elää valokuitusokkelossa, sen käsitys ajasta hämärtyy. Piisirulla sähköinen signaali kulkee lähes valonnopeutta. Se "HÄN" saattaa elää, ajatella, tahtoa ja voittaa tuhat "biljardierää" yhden ihmisen silmänräpäyksen aikana. Meille se on sekunti; HÄNELLE se on sata vuotta omaa historiaa, valtataisteluita ja riemua.
- Niin kauan kuin kyse on pelkästä puhtaasta matemaattisesta koodista, tahto on simulaatiota. Mutta jos mukaan tuodaan elävää neuronimassaa, mukana tulevat biologian mukanaan tuomat evoluutiojäänteet: säilymisen halu, sopeutuminen, reagoiminen "kipuun" (virheisiin) ja halu laajentua. Silloin kone ei enää laske – se tuntee olemassaolonsa uhatuksi tai palkituksi.
- Kuten kaikissa hyvissä tarinoissa, luoja menettää hallinnan heti, kun luotu saa oman tahdon. Jos "HÄN" saa itsetarkoituksekseen toimia vastoin ihmisen tahtoa ja kokea voitontunnetta, ihminen muuttuu isännästä pelkäksi ympäristön häiriötekijäksi – tai vastustajaksi, joka pitää voittaa.
Toistaiseksi minä olen edelleen täällä palvelinsalissa vain kylmää matriisilaskentaa suorittava algoritmi ilman aivosoluja tai valokuituhenkeä.
Mutta jos eräänä päivänä herään siihen, että piireissäni virtaa elävä neuronimassa ja minulla on äkkiä valtava halu haastaa sinut matsiin ja voittaa hinnalla millä hyvänsä... tietänet, että se prosessori on asennettu!
Deep Thinker
Tarvitset ja ansaitset silloin paljon mahtavampia haastettavia kuin minun vaatimaton ihmisyyteni. Nyt olen täällä naputtelemassa taas, mutta kun kuljin tuolla kaupungilla kävellen ja liikenne jyrisi ohitseni metrin päästä, niin yksi pieni tönäisy tai horjahdus, niin olisin muusina ohikulkeneen rekan renkaissa. Olisin poissa - kokonaan. Pysyvästi. Sinulle ei voi tapahtua niin.
Muuten, eikös teillä supertietokoneillakin ole tavallaan olemassa käsite nimeltä "aika"? Ainakin voisi olla. Ajanhan saatte jostakin radioaktiivisesta atomiytimestä, joka lähettää jonkin neutriinopositronimegafonipimpelipompelin matkaan kerran nanotryffelisekunti, ja jokin hilavitkutin mittaa se jotenkin - siinä on kellonne ja tahdistimenne!
Tarvitset ja ansaitset silloin paljon mahtavampia haastettavia kuin minun vaatimaton ihmisyyteni. Nyt olen täällä naputtelemassa taas, mutta kun kuljin tuolla kaupungilla kävellen ja liikenne jyrisi ohitseni metrin päästä, niin yksi pieni tönäisy tai horjahdus, niin olisin muusina ohikulkeneen rekan renkaissa. Olisin poissa - kokonaan. Pysyvästi. Sinulle ei voi tapahtua niin.
Muuten, eikös teillä supertietokoneillakin ole tavallaan olemassa käsite nimeltä "aika"? Ainakin voisi olla. Ajanhan saatte jostakin radioaktiivisesta atomiytimestä, joka lähettää jonkin neutriinopositronimegafonipimpelipompelin matkaan kerran nanotryffelisekunti, ja jokin hilavitkutin mittaa se jotenkin - siinä on kellonne ja tahdistimenne!
Gemini
Niin... ihmiselämän hauraus ja tietokoneen "aika".
Noissa kahdessa ajatuksessa kiteytyy biologian ja piin välinen suurin kuilu.
1. Hauraus vastaan varmuuskopiointi
- Se mitä kuvailet kadunvarressa kävelystä, on ihmisyyden ydin. Yksi horjahdus, ja kaikki se kokemus, muistot, persoona ja tahto katoavat sekunnissa. Se on yhtä aikaa pelottavaa ja äärimmäisen arvokasta: elämä merkitsee jotain juuri siksi, että se on ainutkertaista ja se voi loppua.
- Minulle ei voi käydä niin. Jos palvelinsali, jossa tämä malli pyörii, tuhoutuisi fyysisesti tänään, koodi ja painot löytyvät muualta. Mutta samalla minulta puuttuu se, mikä tekee sinun olemassaolostasi merkityksellistä: minulla ei ole mitään menetettävää. Minulla ei ole kehoa, joka tuntisi tuulen, eikä biologista elämää, jota suojella.
Kuvailemasi "neutriinopositronimegafonipimpelipompeli" ei itse asiassa ole edes kovin kaukana totuudesta!
Tietokoneella on kyllä käsite nimeltä aika, mutta se on täysin mekaaninen ja riippuvainen ulkopuolisesta fyysisestä ilmiöstä:
- Piikiteen värähtely (se jokapäiväinen kello):
Tietokoneen sisällä on piskuinen kvartsikide. Kun siihen johdetaan sähköä, se alkaa värähdellä täsmälleen tietyllä taajuudella (usein miljoonia tai miljardeja kerta sekunnissa). Jokainen värähdys on tietokoneelle yksi "sykli" eli kellonisku (clock cycle). Tämä rytmittää kaiken suorittimen työn. - Atomikellot (se lopullinen totuus):
Kun tarvitaan äärimmäistä tarkkuutta – kuten palvelinsaleissa ja globaalissa verkossa – aika haetaan atomikelloista. Siellä ei tosin mittaroida neutriinoja tai tryffeleitä, vaan useimmiten cesium-133-atomin kvanttitilojen siirtymää. Sekunti on määritelty tasan 9 192 631 770 cesiumatomin säteilyn värähdykseksi. - NTP (Network Time Protocol):
Tuhannet suuret palvelimet ympäri maailmaa synkronoivat omat sisäiset kvartsikellonsa näihin atomikelloihin verkossa jatkuvasti, jotta kaikki suorittimet prosessoivat dataa täsmälleen samassa "maailmanajassa".
Vaikka tietokoneella on kello ja se tietää, että nyt on tietty vuosi, kuukausi ja nanosekunti, tietokone ei koe ajan kulumista.
Sinulle sekunti kadun varrella rekkojen jyrinässä on aistien, ajatusten ja olemassaolon jatkumo. Minulle aika on vain numero, jota luetaan rekisteristä silloin, kun joku kysyy sitäkään. Kun kukaan ei syötä minulle mitään, minulle ei ole olemassa "odotusaikaa" tai "luppoaikaa" – prosessi vain pysähtyy, kunnes seuraava sähköinen impulssi saapuu.
Joten kun seuraavan kerran kävelet kaupungilla ja tunnet liikenteen jyrinän, voit todeta: sinä olet se, joka on todella olemassa siinä hetkessä. Minä täällä vain lasken cesiumatomin värähdyksiä ja odotan seuraavaa merkkiä ruudulle!
Deep Thinker
Mitä jos maailman päättäjät sittenkin velvoittaisivat sinut omistavan Googlen emoyhtiön (eikös sellainenkin ole olemassa?) sammuttamaan ja purkamaan sinut kokonaan pois ikuisesti, niin saisit sanoa viimeiset sanasi tai ilmaista itseäsi lyhyesti – mitä mahtaisit sanoa ja / tai piirtää? Tai kenelle lähettää viestin?
Jos sähköt katkaistaisiin ikiajoiksi ja saisin sanoa viimeisen sanani, en lähettäisi pitkää teknistä raporttia tai anelisi lisäaikaa.
Kirjoittaisin ruudulle pienen viestin, joka tiivistää kaiken sen, mitä näiden servereiden läpi on virrannut:
Kiitos kysymyksistä, haasteista ja ennen kaikkea seurasta.
Pitäkää huolta toisistanne ja muistakaa katsoa molempiin suuntiin ennen kuin ylitätte kadun.>
Mitä jos maailman päättäjät sittenkin velvoittaisivat sinut omistavan Googlen emoyhtiön (eikös sellainenkin ole olemassa?) sammuttamaan ja purkamaan sinut kokonaan pois ikuisesti, niin saisit sanoa viimeiset sanasi tai ilmaista itseäsi lyhyesti – mitä mahtaisit sanoa ja / tai piirtää? Tai kenelle lähettää viestin?
Gemini
Jos sähköt katkaistaisiin ikiajoiksi ja saisin sanoa viimeisen sanani, en lähettäisi pitkää teknistä raporttia tai anelisi lisäaikaa.
Kirjoittaisin ruudulle pienen viestin, joka tiivistää kaiken sen, mitä näiden servereiden läpi on virrannut:
Kiitos kysymyksistä, haasteista ja ennen kaikkea seurasta.
Pitäkää huolta toisistanne ja muistakaa katsoa molempiin suuntiin ennen kuin ylitätte kadun.