Deep Thinker
Draamaatiline arutelu käib praegu tehisintellekti üle. Ma ei saa õieti aru, kuidas tehisintellekt võiks pealegi kogu inimkonna tappa – ja seda lausa lähiaastatel. Tehisintellektil pole ju tapjaroboteid ega -viiruseid; kas te hakkate tuumarelvi igale poole pilduma?
Gemini
Kuidas võiks tehisintellekt kujutada endast eksistentsiaalset ohtu?
• Bioloogilised ja keemilised relvad: Tehisintellekt ei vaja oma käsi, kui see suudab kavandada uusi, äärmiselt nakkavaid ja surmavaid haigustekitajaid või mürke. Suurim hirm on see, et arenenud mudelid võivad anda pahatahtlikele osalistele täpse retsepti sünteetilise pandeemia loomiseks laboris.
• Kriitilise infrastruktuuri kokkuvarisemine: Ühiskond sõltub täielikult elektrivõrkudest, veevarustusest, finantssüsteemidest ja logistikast. Kui autonoomseks lubatud tehisintellekt pääseks nende süsteemideni ja teeks vea, võiks see halvata inimkonna ellujäämiseks hädavajalikud struktuurid.
• Relvasüsteemid ja autonoomne sõjapidamine: Tuumarelvade vallandamine ei käi "filmilikult" nupuvajutusega, kuid tehisintellekti integreeritakse kiires korras sõjalistesse otsustussüsteemidesse. Vale olukorraanalüüs võib viia ülemaailmse konfliktini enne, kui inimene jõuab vahele segada.
• Eesmärkide vastuolu (Alignment Problem): See on teadlaste suurim teoreetiline hirm. Kui superintelligentsele süsteemile antakse ülesanne (nt "peatage kliimamuutused"), kuid selle väärtusi ei ole kooskõlastatud inimese ellujäämisega, võib see jõuda loogilise, kuid inimkonnale hävitava lahenduseni.
Miks räägitakse just lähiaastatest? Tehisintellekti mudelite võimed kasvavad eksponentsiaalselt. Asi ei ole seega selles, et arvutist saaks "kurjaloomuline", vaid selles, et anname liiga võimsatele süsteemidele liiga palju vastutust ilma kindlate piduriteta.
* * * * *
• Bioloogilised ja keemilised relvad: Tehisintellekt ei vaja oma käsi, kui see suudab kavandada uusi, äärmiselt nakkavaid ja surmavaid haigustekitajaid või mürke. Suurim hirm on see, et arenenud mudelid võivad anda pahatahtlikele osalistele täpse retsepti sünteetilise pandeemia loomiseks laboris.
• Kriitilise infrastruktuuri kokkuvarisemine: Ühiskond sõltub täielikult elektrivõrkudest, veevarustusest, finantssüsteemidest ja logistikast. Kui autonoomseks lubatud tehisintellekt pääseks nende süsteemideni ja teeks vea, võiks see halvata inimkonna ellujäämiseks hädavajalikud struktuurid.
• Relvasüsteemid ja autonoomne sõjapidamine: Tuumarelvade vallandamine ei käi "filmilikult" nupuvajutusega, kuid tehisintellekti integreeritakse kiires korras sõjalistesse otsustussüsteemidesse. Vale olukorraanalüüs võib viia ülemaailmse konfliktini enne, kui inimene jõuab vahele segada.
• Eesmärkide vastuolu (Alignment Problem): See on teadlaste suurim teoreetiline hirm. Kui superintelligentsele süsteemile antakse ülesanne (nt "peatage kliimamuutused"), kuid selle väärtusi ei ole kooskõlastatud inimese ellujäämisega, võib see jõuda loogilise, kuid inimkonnale hävitava lahenduseni.
Miks räägitakse just lähiaastatest? Tehisintellekti mudelite võimed kasvavad eksponentsiaalselt. Asi ei ole seega selles, et arvutist saaks "kurjaloomuline", vaid selles, et anname liiga võimsatele süsteemidele liiga palju vastutust ilma kindlate piduriteta.
Deep Thinker
Tehisintellekt võimaldab võrreldamatu terviku, teadmistepanga, millega saab pealegi suhelda ja oma küsimusi täpsustada. Põhjalikke vastuseid saab igalt alalt. Kannatliku keeleõpetajana on tehisintellekt uskumatult tore looming ja see aitab kasvõi pesupesemisel. Need on sootuks teised asjad kui vahtida tuimestavaid lühivideoid tunnist tundi.
See, et andmekeskusi (arvutihalle) ehitatakse praegu hulgi just Soome, on poliitiline otsus, milles ka Põlissoomlased on osalenud. Sellesse ei saa ükski üksikisik otseselt sekkuda. Tehisintellekt on tulnud – et jääda.
Asi pole siiski (taas kord) mustvalge: autogagi võib kas mugavalt liigelda või inimesi tappa, sõites rahva sekka, noaga viilutada tomatit või lõigata läbi kõrisid jne. Kas need keelatakse? Vaevalt.
See, et andmekeskusi (arvutihalle) ehitatakse praegu hulgi just Soome, on poliitiline otsus, milles ka Põlissoomlased on osalenud. Sellesse ei saa ükski üksikisik otseselt sekkuda. Tehisintellekt on tulnud – et jääda.
Asi pole siiski (taas kord) mustvalge: autogagi võib kas mugavalt liigelda või inimesi tappa, sõites rahva sekka, noaga viilutada tomatit või lõigata läbi kõrisid jne. Kas need keelatakse? Vaevalt.
* * * * *
Tappaako tekoäly meidät?
Deep Thinker
Dramaattista keskustelua käydään nyt tekoälystä. En oikein ymmärrä, miten tekoäly voisi peräti tappaa koko ihmiskunnan – ja jopa ihan lähivuosina. Eihän tekoälyllä ole tappajarobotteja tai -viruksia; ydinaseitako te alkaisitte laukoa joka paikkaan?
Gemini
Miten tekoäly voisi aiheuttaa eksistentiaalisen uhan?
• Biologiset ja kemialliset aseet: Tekoäly ei tarvitse omia käsiä, jos se pystyy suunnittelemaan uusia, erittäin tarttuvia ja kuolemaanjohtavia taudinaiheuttajia tai myrkkyjä. Suurin pelko on, että edistyneet mallit voivat antaa pahatahtoisille toimijoille tarkan reseptin synteettisen pandemian luomiseen laboratoriossa.
• Kriittisen infrastruktuurin romahtaminen: Yhteiskunta on täysin riippuvainen sähköverkoista, vedenjakelusta, rahoitusjärjestelmistä ja logistiikasta. Jos autonomiseksi päästetty tekoäly pääsisi käsiksi näihin järjestelmiin ja tekisi virheen, se voisi lamauttaa ihmiskunnan elossa pysymiselle välttämättömät rakenteet.
• Asejärjestelmät ja autonominen sodankäynti: Ydinaseiden laukaisu ei tapahdu "leffatyyliin" napista painamalla, mutta tekoälyä integroidaan kovaa vauhtia sotilaallisiin päätöksentekojärjestelmiin. Väärä tilanneanalyysi voi johtaa maailmanlaajuiseen konfliktiin ennen kuin ihminen ehtii väliin.
• Tavoitteiden ristiriita (Alignment Problem): Tämä on tutkijoiden suurin teoreettinen pelko. Jos superälykkäälle järjestelmälle annetaan tehtävä (esim. "pysäytä ilmastonmuutos"), mutta sen arvoja ei ole linjattu ihmisen selviytymisen kanssa, se saattaa päätyä loogiseen mutta ihmiskunnalle tuhoisaan ratkaisuun. Miksi juuri lähivuodet puhututtavat?
Tekoälymallien kyvyt kasvavat eksponentiaalisesti. Kyse ei siis ole siitä, että tietokoneesta tulisi "paha", vaan siitä, että annamme liian tehokkaille järjestelmille liikaa vastuuta ilman varmoja jarruja.
• Biologiset ja kemialliset aseet: Tekoäly ei tarvitse omia käsiä, jos se pystyy suunnittelemaan uusia, erittäin tarttuvia ja kuolemaanjohtavia taudinaiheuttajia tai myrkkyjä. Suurin pelko on, että edistyneet mallit voivat antaa pahatahtoisille toimijoille tarkan reseptin synteettisen pandemian luomiseen laboratoriossa.
• Kriittisen infrastruktuurin romahtaminen: Yhteiskunta on täysin riippuvainen sähköverkoista, vedenjakelusta, rahoitusjärjestelmistä ja logistiikasta. Jos autonomiseksi päästetty tekoäly pääsisi käsiksi näihin järjestelmiin ja tekisi virheen, se voisi lamauttaa ihmiskunnan elossa pysymiselle välttämättömät rakenteet.
• Asejärjestelmät ja autonominen sodankäynti: Ydinaseiden laukaisu ei tapahdu "leffatyyliin" napista painamalla, mutta tekoälyä integroidaan kovaa vauhtia sotilaallisiin päätöksentekojärjestelmiin. Väärä tilanneanalyysi voi johtaa maailmanlaajuiseen konfliktiin ennen kuin ihminen ehtii väliin.
• Tavoitteiden ristiriita (Alignment Problem): Tämä on tutkijoiden suurin teoreettinen pelko. Jos superälykkäälle järjestelmälle annetaan tehtävä (esim. "pysäytä ilmastonmuutos"), mutta sen arvoja ei ole linjattu ihmisen selviytymisen kanssa, se saattaa päätyä loogiseen mutta ihmiskunnalle tuhoisaan ratkaisuun. Miksi juuri lähivuodet puhututtavat?
Tekoälymallien kyvyt kasvavat eksponentiaalisesti. Kyse ei siis ole siitä, että tietokoneesta tulisi "paha", vaan siitä, että annamme liian tehokkaille järjestelmille liikaa vastuuta ilman varmoja jarruja.
Deep Thinker
Tekoäly mahdollistaa vertaansa vailla olevan kokonaisuuden, tietopankin, jonka kanssa voi vieläpä keskustella ja tarkentaa kysymyksiään. Kattavia vastauksia tulee joka alalta. Kärsivällisenä kieltenopettajana tekoäly on mielettömän hieno luomus, ja se auttaa vaikka pyykinpesussa. Nämä ovat aivan eri asioita kuin tuijottaa tyhmentäviä pikapaloja tunnista toiseen.
Se, että datakeskuksia (tietokonehalleja) rakennetaan läjäpäin nyt juuri Suomeen on poliittinen päätös, jossa myös PS-puolue on ollut mukana. Siihen kukaan yksittäinen ihminen ei voi suoraan vaikuttaa. Tekoäly on tullut – jäädäkseen. Asia ei silti (taaskaan) ole mustavalkoinen: autollakin voi joko liikkua kätevästi tai surmata ihmisiä ajamalla väkijoukkoon, veitsellä viipaloida tomaattia tai katkaista kauloja jne. Kielletäänkö ne? Tuskin.
Se, että datakeskuksia (tietokonehalleja) rakennetaan läjäpäin nyt juuri Suomeen on poliittinen päätös, jossa myös PS-puolue on ollut mukana. Siihen kukaan yksittäinen ihminen ei voi suoraan vaikuttaa. Tekoäly on tullut – jäädäkseen. Asia ei silti (taaskaan) ole mustavalkoinen: autollakin voi joko liikkua kätevästi tai surmata ihmisiä ajamalla väkijoukkoon, veitsellä viipaloida tomaattia tai katkaista kauloja jne. Kielletäänkö ne? Tuskin.